Um sistema inteligente, que entende perfeitamente a linguagem natural, alimenta-se imediatamente de uma enorme quantidade de dados e responde a praticamente qualquer pergunta. O ChatGPT é tão bom —especialmente em sua versão mais recente, GPT-4— que levou apenas alguns meses para o alarme soar: até onde pode ir sua influência? Para além dos debates morais, a outra grande preocupação que o ChatGPT suscita é a sua gestão pouco transparente da informação que processa.
“Não sabemos o que eles realmente fazem com os dados”, adverte Borja Adsuara, advogado especialista em direito digital, “e não saber o que eles fazem com os dados já é um risco em si”. Federico Vadillo, especialista em segurança da Akamai, compartilha da mesma opinião: “O uso do ChatGPT apresenta riscos em termos de proteção de dados e conformidade regulatória, especialmente em relação ao Regulamento Geral de Proteção de Dados, o GDPR”. Este especialista vai além, alertando que esses dados pessoais “não autorizados” podem “ser transferidos para fora da União Europeia”.
A aventura de deletar dados pessoais
“Sistemas baseados em inteligência artificial (IA) muitas vezes se comportam como um caixa preta: sabemos o que acontece no final do processo, mas não sabemos como o software aprende e toma decisões”, adverte Adrián Moreno, especialista em segurança cibernética. “Esse fenômeno coloca desafios de compreensão, controle e ética. É por isso que é conveniente estabelecer um quadro regulatório para enfrentar esses desafios e permitir o desenvolvimento e uso responsável e seguro da IA”, acrescenta.
Moreno recorda que “o artigo 15.º do RGPD estabelece que ‘o interessado terá o direito de obter do responsável pelo tratamento a confirmação de que se trata ou não de dados pessoais que lhe digam respeito'”, e, neste sentido, a forma como em que o uso de informações de sistemas baseados em IA é “uma fonte de preocupação”.
Diante dessa realidade, como deletar todas as informações pessoais? A má notícia é que não há uma maneira automatizada ou imediata de excluir as informações armazenadas. Ou seja, as conversas mantidas com o sistema são gravadas, juntamente com o nome do usuário e dados cadastrais, conforme divulgado pelo Política de privacidade da companhia. Uma vez que não existe uma forma imediata ou automatizada de aceder e eliminar a informação consultada, a OpenAI disponibilizou um formulário que o interessado deve preencher para solicitar a informação dos dados. E aí vem o preocupante: o usuário é obrigado a aceitar uma cláusula em que o OpenAI avisa que talvez não consiga retirar essa informação.
Isto é, após o preenchimento de um formulário complexo, no qual é demonstrado de forma irrefutável (mesmo com capturas de tela) que o sistema está oferecendo informações sobre si mesmo e os motivos para solicitar sua remoção. Este documento deve ser preenchido com os dados reais do interessado, que, além disso, deve “jurar” por escrito a veracidade do que afirma. E para piorar, se possível, este formulário informa ao usuário que as informações preenchidas podem ser conferidas com outras fontes para verificar sua veracidade.
O que é feito e como essa informação é usada? A OpenAI sustenta que não explora os dados pessoais para fins que não sejam a melhoria dos seus sistemas, mas, por outro lado, na sua política de privacidade adverte que os dados podem ser “transferidos a terceiros sem notificação ao utilizador”. Em suma, a OpenAI oferece um produto com alto valor agregado, mas com um custo ainda maior para o usuário: o desconhecimento do tratamento de seus dados. Recorde-se ainda que com a informação consultada no ChatGPT é fácil criar um perfil de utilizador e é muito tentador explorá-lo. Perante este dilema, e se não quiser correr riscos, o mais prudente é fazer um uso consciente do que está a ser consultado ou, sendo mais radical, não utilizar a ferramenta até aderir a regulamentos como o RGPD : “O melhor é não inserir dados pessoais, por precaução”, recomenda Adsuara.
você pode seguir O PAÍS Tecnologia em Facebook y Twitter ou cadastre-se aqui para receber nossos newsletter semanal.
Com informações do EL Pais / Tecnología
Compartilhe este post
