UE quer obrigar empresas de internet a revisar comunicações privadas para detectar pedofilia

Até agora, na Europa, a identificação de suspeitos de pedofilia é voluntária pelas empresas. A UE considera que “a grande maioria das reclamações parte de um punhado deles” e “um número significativo não toma qualquer providência”. Pelo contrário, o problema do abuso online continua a crescer. O Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), aos quais os prestadores de serviços nos Estados Unidos são obrigados a denunciar abuso infantil, recebe 30 milhões de denúncias por ano, das quais mais de um milhão são de estados membros da UE.

O regulamento estabelece que um centro europeu de prevenção e luta contra o abuso sexual de menores facilitará o acesso a “tecnologias fiáveis” e que “indicadores” as empresas irão procurar para “detectar, denunciar, bloquear e remover materiais de abuso sexual de menores” . Esses algoritmos de busca, de acordo com a norma, tentarão evitar falsos positivos ou reclamações errôneas e obedecerão a critérios “verificados por órgãos judiciais ou autoridades administrativas independentes dos Estados-Membros”.

No entanto, entre as opções regulatórias, a UE inclui a mais exaustiva, que exige que as empresas detectem não apenas materiais conhecidos (confirmados), mas também novos, referindo-se àqueles que “poderiam constituir material de abuso, mas que ainda não foram confirmados como tal por uma autoridade”, bem como os destinados ao recrutamento de menores.

“As medidas constantes da proposta afetam, antes de mais, o exercício dos direitos fundamentais dos utilizadores dos serviços em causa”, admite o texto do regulamento em referência, “o respeito pela privacidade (incluindo a confidencialidade das comunicações, tal como parte do direito ao respeito pela vida privada e familiar), à proteção de dados pessoais e à liberdade de expressão e informação”.

limitações de direitos

“Embora sejam de grande importância, nenhum desses direitos é uma prerrogativa absoluta e deve ser considerado de acordo com seu papel na sociedade (…). Ele artigo 52.ºn.º 1, da Carta dos Direitos Fundamentais da União Europeia permite limitá-los, sem prejuízo das condições estabelecidas na referida disposição”, argumenta a UE.

Nesse sentido, o regulamento proposto refere que as tecnologias aplicadas serão “as menos intrusivas à privacidade” e serão executadas “anonimamente”. Também “garante o direito à proteção judicial efetiva em todas as fases, desde a detecção até a eliminação, e limita a conservação de materiais e dados ao estritamente necessário”.

A UE admite ainda que “entre em jogo a liberdade empresarial”, uma vez que sujeita os operadores a “uma sobrecarga e pode afetar a livre escolha de clientes e fornecedores ou a liberdade contratual”. “Este direito também não constitui uma prerrogativa absoluta; é possível iniciar um conjunto alargado de intervenções que estabeleçam limitações ao exercício da atividade económica em nome do interesse geral”, insiste a UE.

Rejeição

A iniciativa foi rejeitada por empresas do setor e grupos de defesa dos direitos digitais sob a premissa de que “o abuso de menores é horrendo, mas o regulamento não resolve o problema, estabelece vigilância em massa, anula a inviolabilidade das comunicações, enfraquece proteção legal eficaz, ataca as PMEs de tecnologia em favor dos monopólios e gerará falsos positivos que podem afetar qualquer pessoa e bloquear os investigadores”, de acordo com Xnet.

A ideia é antiga: acabar com a criptografia da internet e a privacidade das comunicações

Sergio Salgado, ativista da Xnet

Sergio Salgado, membro desta plataforma, duvida que a iniciativa seja para combater a pedofilia na Internet: “A ideia é antiga: acabar com a encriptação da Internet e com a privacidade das comunicações”, diz. Salgado califica el reglamento como una vuelta de tuerca a la primera norma, que se denominó Chat Control 1: “Es lo mismo, pero haciendo obligatorio el control: es el viejo sueño del poder para el que, en general, el cifrado y la privacidad é um problema”.

“Só existe um direito fundamental que não admite nenhum tipo de restrição: a liberdade de pensar. Os demais os admitem, mas devem ser mínimos e sob proteção judicial efetiva. Em hipótese alguma a internet pode ser transformada em um espaço de exceção. É como dizer que a polícia pode entrar na casa de qualquer pessoa sem mandato, mas prometer que não vai entrar”, diz.

Salgado aponta os falsos positivos como um dos grandes problemas. “Pessoas inocentes serão prejudicadas”, diz ele, ressaltando que “essas acusações infundadas também inundarão os investigadores que efetivamente processam a pedofilia”.

Falso-positivo

O Google suspendeu as contas de dois usuários nos Estados Unidos que enviaram fotos de seus filhos a pediatras para monitoramento de infecção. Na Espanha, o professor valenciano David Barberá ficou sem acesso a milhares de arquivos privados na nuvem devido a supostas imagens que a mesma empresa considerou suspeitas.

“As grandes empresas vão ser uma polícia privada e vão ter um critério conservador: não querem problemas jurídicos nem riscos. Em caso de dúvida, o material é deletado. Sua prioridade não será manter a liberdade de expressão e conversas abertas na internet. Além disso, a tutela jurisdicional eficaz assenta no facto de ser você quem tem de recorrer ao tribunal”, defende Salgado.

“É uma legislação que usa o abuso sexual infantil para cercear os direitos digitais e isso não funciona assim; a liberdade não pode ser sacrificada pela segurança”, conclui.

Direitos digitais europeusum grupo internacional de organizações a favor dos direitos civis, concorda com a Xnet e pede a retirada do regulamento da UE: “Obrigará os provedores de todos os nossos bate-papos digitais, mensagens e e-mails a saber o que estamos escrevendo e compartilhando em todos os momentos e removerá a possibilidade de anonimato de muitos espaços online legítimos.”

Um favor

Javier Zarzalejos, relator do regulamento do PE, discorda de todas as precauções e defender os benefícios da proposta. Frisa que todas as empresas terão de “fazer uma análise de risco” e que esta não é igual em todos os casos: “Um serviço de pagamento em que existam mecanismos eficazes de verificação da idade não é o mesmo que serviços como os chats cujo apelo comercial é que se pode interagir livre e anonimamente com qualquer pessoa. Será a autoridade competente de cada Estado que avaliará se a análise de risco é suficiente, realista, e deverá aprovar as medidas de proteção. Não há medidas que as empresas possam adotar sem autorização dos órgãos competentes”.

Também rejeita que a obrigação de escanear as comunicações viole sua privacidade. “A criptografia é mantida. A tecnologia aplicada é extraordinariamente confiável e atua de forma muito semelhante à detectada pelo Spam [correo no deseado]. De acordo com alguns indicadores, os algoritmos detectam os casos. Não há acesso ao conteúdo da comunicação e eles atuam como classificadores”.

Todas as cartas passam por um scanner para evitar que carreguem produtos ilegais. O fato de passar pelo scanner não significa que Correos saiba o que escrevo em uma carta

Javier Zarzalejos, eurodeputado relator da proposta de regulamento

“As empresas devem introduzir a verificação humana para determinar se são detectados padrões compatíveis com um caso de abuso sexual infantil. As suspeitas devem ser encaminhadas para as forças e órgãos de segurança do Estado. Por uma ou duas frases ou por enviar fotos dos meus netos na praia, ninguém vai deduzir que se trata de um menor que está a ser assediado ou atraído para fins de abuso sexual”, acrescentou o eurodeputado. Nesse sentido, Zarzalejos estabelece uma analogia: “Todas as cartas passam por um scanner para evitar que carreguem produtos ilegais. O fato de passar pelo scanner não significa que os Correios saibam o que escrevo na carta”.

Também concorda com a abordagem da UE de que limites às liberdades podem ser estabelecidos. “Não existem direitos fundamentais absolutos e aqui estamos falando de um crime gravíssimo.” “Felizmente, temos um quadro de garantias muito amplo e uma autoridade judicial. A ideia é que tenhamos um regulamento suficientemente adaptável, prova da evolução tecnológica, e que forneça um quadro legal que nos permita mantê-lo atualizado num ambiente em mudança”, acrescenta.

“Não estamos estabelecendo um controle geral de todas as comunicações. Estamos falando de ferramentas que não exigem acesso ao conteúdo e estão sujeitas a revisão, a condições específicas impostas por lei. Já é aplicado na prevenção do terrorismo com um regulamento que funciona e tem muitas semelhanças com este”, conclui.

A social-democrata sueca Ylva Johansson, que apresentou a proposta da Comissão, ele também a defende: “Como adultos, é nosso dever proteger as crianças. O abuso sexual infantil é um perigo real e crescente. A proposta estabelece obrigações claras para que as empresas detectem e denunciem o abuso de menores, com fortes salvaguardas que garantam a privacidade de todos, inclusive das crianças.

Você pode escrever para [email protected] e seguir O PAÍS Tecnologia em Facebook y Twitter ou cadastre-se aqui para receber nossos newsletter semanal.