A inteligência artificial (IA) representa um “risco de extinção” para a humanidade, assim como catástrofes como uma guerra nuclear ou uma pandemia. Essas são as conclusões de um grupo de 350 executivos, pesquisadores e engenheiros especialistas nessa tecnologia em um carta aberta de apenas 22 palavras publicada nesta terça-feira pelo Center for AI Security, sem fins lucrativos. “Mitigar o risco de extinção [para la humanidad] da IA deve ser uma prioridade global junto com outros riscos em escala social, como pandemias e guerra nuclear”, cita a declaração que foi assinada, entre outros, pelos altos executivos de três das principais empresas de inteligência artificial: Sam Altman (CEO da OpenAI), Demis Hassabis (Google DeepMind) e Dario Amodei (Anthropic). Também entre os signatários estão os pesquisadores Geoffrey Hinton e Yoshua Bengio, que são frequentemente considerados padrinhos do movimento moderno de IA. Hinton deixou o Google há algumas semanas, onde ocupou a vice-presidência, por acreditar que essa tecnologia pode levar ao fim da civilização em questão de anos, como confessou ao EL PAÍS.
A declaração vem em um momento de crescente preocupação com uma indústria em rápido desenvolvimento e difícil de controlar. O próprio Sam Altman já havia se manifestado sobre o assunto durante sua aparição no Senado dos EUA, quando reconheceu a importância de regulamentar a inteligência artificial generativa. “Meu maior medo é que essa tecnologia dê errado. E se der errado, pode dar muito errado”, disse ele há apenas duas semanas, durante a primeira audiência sobre IA realizada no Capitólio. O pai da OpenAI – a empresa que desenvolveu o ChatGPT, o programa de inteligência artificial mais popular e poderoso da área – acrescentou que entendia que “as pessoas estão ansiosas sobre como [la IA] pode mudar a forma como vivemos”, e que por isso é necessário “trabalhar em conjunto para identificar e gerir as possíveis desvantagens para que todos possamos usufruir das enormes vantagens”.
Não foi a primeira vez que um dos empresários mais envolvidos com essa tecnologia fez declarações dessa magnitude sobre o futuro da IA. Em março, mais de mil intelectuais, pesquisadores e empresários haviam assinado outra carta aberta na qual pediam a suspensão por “pelo menos seis meses do desenvolvimento de sistemas de IA mais poderosos que o GPT4”, a última versão do ChatGPT. Na carta, os signatários alertam que a ferramenta OpenAI já é capaz de competir com humanos em um número cada vez maior de tarefas, podendo ser usada para destruir empregos e espalhar desinformação. “Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo, apesar do fato de que nos últimos meses os laboratórios de IA entraram em uma corrida desenfreada para desenvolver e implantar mentes digitais cada vez mais poderosas do que qualquer um, nem mesmo seus criadores, eles podem entender, prever com segurança ou controle”, dizia a carta, que também foi assinada pelo magnata Elon Musk, fundador da Tesla e da SpaceX e dono do Twitter, que também é um dos fundadores da OpenAI.
Outra voz de alarme neste campo foi a dos britânicos Geoffrey Hinton, que deixou o emprego no Google no início de maio poder alertar mais livremente sobre os perigos dessas novas tecnologias. “Pelo que sabemos até agora sobre o funcionamento do cérebro humano, nosso processo de aprendizagem é provavelmente menos eficiente que o dos computadores”, confessou ao EL PAÍS algumas semanas atrás. Hinton garantiu na mesma entrevista que faltam “cinco a 20 anos” para a inteligência artificial superar a inteligência humana. “Nosso cérebro é fruto da evolução e tem uma série de objetivos integrados, como não machucar o corpo, daí a noção de dano; coma bastante, daí a fome; e fazer tantas cópias de nós mesmos quanto possível, daí o desejo sexual. As inteligências sintéticas, por outro lado, não evoluíram: nós as construímos. Portanto, eles não vêm necessariamente com objetivos inatos. Portanto, a grande questão é: podemos garantir que eles tenham objetivos que nos beneficiem?”, disse ele.
você pode seguir O PAÍS Tecnologia em Facebook y Twitter ou cadastre-se aqui para receber nossos newsletter semanal.
Com informações do EL Pais / Tecnología
Compartilhe este post![Eletrocarro](https://somosnoticia.com.br/wp-content/uploads/2024/08/eletrocarro.jpg")
