Gabriela Ramos: “A questão não é regular a inteligência artificial, mas como”

Perguntar. O que você acha do ChatGPT e do boom da inteligência artificial generativa?

Responder. O ChatGPT confirma o que temos vindo a dizer: que existe um crescimento exponencial destas tecnologias. Antes, estávamos muito preocupados em entender que os algoritmos de aprendizado de máquina [aprendizaje automático] Eles foram fortes em suas definições e em garantir que os dados usados ​​fossem de qualidade. Os grandes modelos de linguagem dos quais os chatbots dependem tornam ainda mais difícil entender como eles funcionam. E acho que essa é a questão fundamental. É uma pena, porque estamos diante de uma tecnologia espetacular. Mas sofre dos mesmos problemas que a IA menos massiva: quando chegam ao mercado, nem sempre são seguras, confiáveis ​​ou transparentes. Todos esses desenvolvimentos estão ocorrendo em um vácuo regulatório geral. A Europa está avançando em suas diretrizes. O próprio presidente Biden já convocou uma consulta para ver se esses desenvolvimentos precisam ser certificados antes de chegarem ao mercado. A China estabeleceu regulamentos para quem deseja lançar produtos baseados nessa tecnologia.

P. É necessário regulamentar a IA?

R. Precisamos de uma estrutura que nos permita medir de antes. É necessária uma avaliação de impacto ético nas liberdades, nos direitos, nos resultados inclusivos, e tudo isso deve acontecer antes que o produto esteja no mercado. Deve haver certos procedimentos que nos permitam garantir que esses desenvolvimentos sejam totalmente testados e que pelo menos entendamos qual pode ser o seu impacto. Mas continuamos no mundo de cabeça para baixo: primeiro você os deixa ir e depois se pergunta quais são suas consequências. Parece-me ridículo ter de dizer que precisamos de regulamentação. Todos os mercados são regulamentados. Imagine se as empresas farmacêuticas pudessem comercializar qualquer medicamento sem nenhum tipo de check-up. Ou se você pudesse abrir um restaurante e servir a comida de qualidade que quiser. A questão não é se haverá ou não regulamentação, mas de que tipo.

P. Milhares de especialistas assinaram uma carta três semanas atrás pedindo uma moratória na pesquisa generativa de IA. Você concorda com ela?

R. O que essa carta nos confirma é que não nos sentimos capazes de administrar esses sistemas. Acho que a letra faz sentido. Todos têm enfatizado a pausa, mas o que também se pede é que não haja mais desenvolvimentos antes de termos marcos regulatórios sólidos. A Unesco vem trabalhando nisso há dois anos, desde que os 193 países membros aprovaram o Recomendação sobre Ética em Inteligência Artificial. A questão que cabe aqui é se os governos têm poderes, instituições e leis para moderar e governar a IA. A carta dos especialistas fez com que muitas pessoas estivessem obtendo mais informações agora sobre o assunto. O fato de esses senhores, que desenvolveram essa tecnologia, dizerem que é necessária uma pausa significa que eles próprios não confiam que possam lidar com isso. Não acredito que uma moratória seja uma opção realista. O que temos é acelerar a regulamentação. E aí concordo: precisamos de mecanismos de governança para inteligência artificial.

Queremos estabelecer um roteiro sobre como entender a IA, como abordar esses desenvolvimentos, como evitar impactos negativos, como defini-los e como promover regulamentações e instituições”.

P. O que propõe a Recomendação da Unesco sobre Ética em IA?

R. Dizemos que as tecnologias devem sustentar os direitos humanos, devem contribuir para a transição climática e fornecer resultados justos e robustos. Eles também devem ser transparentes e deve haver responsabilidade. 60% dessas tecnologias são desenvolvidas por atores americanos e outros 20% por empresas chinesas. Essa concentração resulta então na falta de diversidade, em resultados discriminatórios, com vieses. Todo esse modelo de negócio tem que mudar.

P. A abordagem da Unesco para que a IA seja regulamentada por cada estado ou para que seja tratada por algum órgão supranacional?

R. Nossa Recomendação não é obrigatória, mas foi assinada por 193 países. No final, são os governos que devem definir seus marcos regulatórios. O que estamos fazendo agora na Unesco, a partir da definição que já temos de padrões e boas práticas, é pensar quais instituições e regulamentações ajudam os países a convergir. Os Estados Unidos, que estão considerando um retorno à UNESCO, também disseram que nosso debate sobre que tipo de regras internacionais devem reger a IA é importante. Quando alguém vê seus direitos fundamentais violados, quando alguém é discriminado e não vê uma oferta de emprego porque a IA não a tinha em seus bancos de dados, quando a tecnologia de reconhecimento facial não detecta você porque você é uma pessoa de cor ou uma mulher Portanto, não importa quantos acordos multilaterais existam, os governos têm a responsabilidade de agir.

P. É realista tentar pressionar regimes internacionais para regular uma tecnologia como a IA?

R. Milhões de decisões estão sendo tomadas com o apoio de inteligência artificial sem nenhuma transparência. Se você é discriminado, nem sabe se foi por causa de uma pessoa ou de um algoritmo. Cabe a nós contextualizar, e aí os países vão avançar nas suas próprias tomadas de decisão. Em meus 20 anos de experiência em organismos multilaterais, aprendi que é possível avançar com evidências concretas, mostrando quais são as previsões para determinados desenvolvimentos e apontando como os países que têm boas regulamentações não ficam para trás na competição tecnológica.

P. Os tratados de não proliferação nuclear da Guerra Fria faziam sentido porque os Estados Unidos e a União Soviética estavam envolvidos. O que aconteceria no caso da IA ​​se algum jogador importante fosse deixado de fora?

R. Quando cheguei à Unesco, há três anos, muitas pessoas me diziam: de que adianta trabalhar em uma estrutura ética para IA se os EUA, que é o principal desenvolvedor, não são membros da Unesco? A recomendação foi assinada por 193 países, incluindo a China. Os Estados Unidos vão ficar atentos porque o que estamos fazendo não é impor um modelo único, mas conscientizar. Queremos estabelecer um roteiro sobre como entender a IA, como abordar esses desenvolvimentos, como evitar impactos negativos, como defini-los e como promover regulamentações e instituições.

P. No desenvolvimento da IA, o plano geopolítico é importante.

R. Sim, estamos no meio de uma corrida tecnológica. Agora está sendo decidido que tipo de tecnologia será adotada. Todos os países estão adquirindo pacotes de IA para gerenciar educação, saúde ou segurança. Como você garante que eles entendam o que estão comprando? Quem é produtor dessas tecnologias e tem interesse em ter um maior número de usuários de sua tecnologia está atento ao que está acontecendo em termos de regulamentação. A China faz parte do consenso da UNESCO. Você vai cumprir o acordo? Bem, eles assinaram, não é?

P. O ChatGPT, que tem apenas seis meses, colocou a IA generativa entre os grandes temas da atualidade. Quanto tempo temos para desenvolver mecanismos de governança adequados para regular essa tecnologia?

R. Já estamos nisso. A União Européia já foi longe demais com suas diretrizes, com sua abordagem baseada no risco. É uma abordagem diferente da da Unesco, mas muito complementar para analisar que tipo de desenvolvimento apresenta maior risco. Eu diria que se as diretivas da União Europeia já estivessem totalmente em vigor, o ChatGPT não teria entrado no mercado. Porque? Porque teria características de empreendimentos que envolvem grandes riscos e que requerem atenção especial do regulador. O que aconteceu com o ChatGPT fez-nos dar este sentido de urgência ao que já fazíamos. A recomendação da Unesco foi adotada entre 2020 e 2021. As diretivas da UE, entre 2020 e 2022. Estamos indo bem.