James Manyika (Google): “A inteligência artificial mudará o mundo, como computadores ou eletricidade”

Perguntar. É possível que eles estejam superestimando a importância da inteligência artificial?

Responder. Não, não creio. Estamos dando importância a isso porque é uma mudança tão profunda que afetará quase tudo o que fizermos. A economia, a produtividade, como concebemos a informação e a aprendizagem. Para mim, a questão é como conseguir os dois lados da moeda: fazer com que seja útil para a sociedade e, ao mesmo tempo, saber lidar com os desafios que se apresentam.

P. O mundo vai mudar?

R. Acho que sim. O que acho tão crítico sobre a IA é que ela será como computadores ou eletricidade. É uma tecnologia essencial: não consigo imaginar uma atividade ou uma parte da sociedade em que não seja útil. Nesse sentido, acho que vai mudar o mundo. Ao mesmo tempo, acho que é tão poderoso e tão útil que também trará consequências, riscos e desafios muito significativos, com os quais temos de lidar.

Mais de dois terços dos empregos serão diferentes. Eles não irão desaparecer, irão simplesmente evoluir e mudar.

P. O que você quer dizer quando fala sobre riscos?

R. Por um lado, existem os riscos que ocorrem quando a própria tecnologia não funciona como queremos, quando se mostra imprecisa ou errada. Outros tipos de riscos são aqueles relacionados à privacidade e ao manuseio da informação. Além disso, mesmo quando esses dois aspectos funcionam bem, é possível fazer mau uso dessa tecnologia. Pode ser usado para fins criminosos, para desinformação ou para criar ameaças à segurança nacional. Há também uma quarta complicação, que tem a ver com efeitos colaterais, como o impacto que a IA pode ter no trabalho, na saúde mental e em outros fatores socioeconômicos aos quais devemos prestar atenção.

P. Aliás, já tem gente perdendo o emprego por causa da IA…

R. Existem trabalhos em que as máquinas podem realizar algumas tarefas que as pessoas fazem agora; e neles haverá perdas, é verdade. Também serão gerados empregos, tanto pelo aumento da produtividade quanto pela criação de novas categorias. Mas acho que o maior efeito, e é isso que todas as análises agora parecem indicar, é que os empregos estão fadados a mudar. Pense nos caixas de banco, que na década de 1970 gastavam 90% do tempo contando dinheiro, enquanto agora gastam menos de 10% do tempo nessa tarefa. Nossos dados sugerem que mais de dois terços dos empregos serão diferentes. Eles não irão desaparecer, irão simplesmente evoluir e mudar.

P. Devemos ter medo da IA?

R. Não, mas devemos ter cuidado como o usamos. A inteligência artificial não é coisa dos últimos meses, já convivemos com ela há anos. Se você olhar para trás em sua história, perceberá que, assim que qualquer um de seus aplicativos se tornou útil, paramos de chamá-lo de IA; mas mantemos o termo para as coisas que estão por vir ou as coisas que nos assustam. Não estou dizendo que não devemos nos preocupar. Mas também devemos nos lembrar de todas as formas como já o utilizamos e nos é muito útil.

P. Geoffrey Hinton deixou o Google justamente para alertar sobre os riscos dessa tecnologia.

R. Eu conheço Jeff bem. Acho que o que eu estava tentando fazer, e o que muitos de nós tentamos fazer, é destacar que devemos adotar uma abordagem preventiva. Porque sim, os benefícios são incrivelmente úteis, mas também há preocupações a serem observadas. Acho que ele queria nos lembrar de todos os riscos que vêm com isso, especialmente à medida que fica mais avançado. E acho que essa abordagem é apropriada.

P. Por que existem tantos manifestos apocalípticos assinados pelos pais da IA?

R. Eu próprio assinei uma dessas cartas, porque considero essencial assegurar que está a ser dada a devida atenção. Sempre que temos uma tecnologia poderosa, temos que pensar tanto em seus benefícios quanto nos riscos reais. No Google, queremos ser ousados ​​e responsáveis. Eu sei que essas duas coisas parecem contraditórias, mas ambas são importantes.

P. Regulamentar a IA é uma forma de ser responsável?

R. Sim. Essas tecnologias são importantes demais para não serem regulamentadas. Temos dito isso publicamente por um longo tempo. Qualquer tecnologia poderosa que seja tão inovadora e complexa precisa dela, mesmo que seja tão útil quanto isso. Se está afetando a vida das pessoas e da sociedade, deve haver alguma forma de regulamentação.

P. Há quem peça para pausar seu desenvolvimento até que seja regulamentado.

R. Estaríamos interrompendo os benefícios dessa tecnologia para as pessoas. Queremos realmente parar de enviar alertas de enchentes para milhões de pessoas que os recebem hoje? Parar de trabalhar nos avanços da medicina? Não acredito. Teria que haver um plano claro para o que estaríamos fazendo durante esse hiato e todos os que trabalham no desenvolvimento da IA ​​teriam que ser coordenados. O que eu acho importante é garantir que estamos conversando com os governos, para saber o que queremos fazer e como queremos fazer.

P. Existe algum setor onde é perigoso aplicar IA?

R. Não penso tanto em setores específicos, mas no uso que se dá a ele. Uma tecnologia aplicada na medicina é diferente da mesma tecnologia aplicada no setor de transportes. Os riscos são diferentes. Concordo que é necessário refletir sobre como essa tecnologia é aplicada em cada caso. Por exemplo, por mais que ame o que estamos fazendo com Bard, acho uma péssima ideia pedir a ele aconselhamento jurídico. Agora, se você me perguntar se Bard deveria ser usado para escrever um ensaio e explorar ideias, minha resposta é claro.

P. É uma boa ideia pedir ajuda a ele se estivermos doentes?

R. Eu não receberia um diagnóstico médico de um chatbot. Em geral, se eu quisesse obter informações factuais, iria para a pesquisa do Google. Se eu quiser saber o que aconteceu em Madri esta manhã, também não usaria Bard para isso.

P. você acha que chatbots de AI (como Bard ou ChatGPT) pode substituir os motores de busca?

R. Não sei o que outras empresas estão fazendo, mas posso dizer o que estamos fazendo. Para nós, Bardo não é o mesmo que Pesquisa do Google [el clásico buscador de la empresa]. Sim, existem maneiras de trazer IA e modelos de linguagem grandes para a Pesquisa, mas são dois casos muito diferentes. Lançamos o Bard como um experimento: estamos tentando entender por que as pessoas o estão usando, para que serve. E ainda estamos aprendendo. É importante observar que usamos inteligência artificial para melhorar a pesquisa por muito mais tempo do que as pessoas imaginam. Seis anos atrás, quando você tentou usar o mecanismo de pesquisa, provavelmente teve que escrever uma consulta bastante precisa para que ele retornasse algo útil. Hoje você não precisa mais. Escrever algo mais ou menos correto é o suficiente.

P. Como você acha que será o cenário daqui a 10 anos?

R. Acho que vai ser incrível. Penso em todas as coisas que podem beneficiar a sociedade, por exemplo, a possibilidade de compreender milhares de idiomas, e isso me emociona. Neste momento, estabelecemos a meta de traduzir 2.000 idiomas no Google, mas em dez anos acho que podemos chegar a todos os 7.000 idiomas falados no mundo, mesmo idiomas que estão desaparecendo. Seria extraordinário. Mas, ao mesmo tempo, espero que também tenhamos feito progressos incríveis no combate a todos os riscos de que falamos.

Parte do nosso medo da IA ​​vem da incapacidade de aceitar que as máquinas também podem fazer coisas criativas.

P. O que precisaria acontecer para que a IA saísse do nosso controle?

R. Que de alguma forma conseguimos desenvolver sistemas que se desenham e são capazes de criar seus próprios objetivos. Isso seria problemático, mas estamos a anos-luz disso. Essa seria a versão de ficção científica. Uma situação mais provável e problemática não teria tanto a ver com a inteligência artificial descontrolada, mas com as próprias pessoas. O perigo é que os humanos colocam essas tecnologias em usos horríveis. Sabemos que o mesmo sistema que pode decifrar estruturas de proteínas para desenvolver drogas também pode projetar toxinas ou vírus se cair em mãos erradas. Isso é o que realmente me preocupa a curto prazo.

P. De onde vem o medo da inteligência artificial?

R. [Ríe] Dos filmes de Hollywood. Estou brincando, mas também acho que é verdade. Volto ao que disse antes, à ideia de que, quando essa tecnologia começar a ser útil, simplesmente deixemos de chamá-la de IA. Parece que reservamos esse rótulo para coisas que vemos em filmes ou coisas que ainda não entendemos ou que estão para acontecer. Por outro lado, acho que parte desse medo pode ser atribuído a um fator muito humano, que é uma pergunta que a humanidade sempre se fez. O que significa ser humano quando as máquinas conseguem fazer coisas que até agora nos diferenciavam de qualquer outro ser vivo? Até agora pensávamos que éramos os únicos capazes de fazer arte, os únicos com criatividade e empatia. Acho que parte desse medo vem da incapacidade de aceitar que as máquinas também podem fazer coisas criativas, que até agora eram consideradas exclusivas dos humanos.

P. Poderíamos dizer que o que nos assusta é que as máquinas podem fazer algo melhor do que nós?

R. Temos que enfrentar esse medo. Temos que ajustar nosso pensamento e nos perguntar quem somos e no que somos bons. Houve um tempo em que costumávamos presumir que apenas as pessoas que podiam fazer contas de cabeça eram inteligentes. Que se você não pudesse recitar de memória coisas que aprendeu em um livro em um teste, provavelmente não era muito inteligente. Costumávamos pensar em tudo isso, mas agora seguimos em frente e acho que o mesmo acontecerá com a IA. Só que talvez esteja acontecendo mais rápido do que nós, humanos, estamos preparados para aceitar. Mas acredito que a humanidade sempre se adaptou e continuará se adaptando.

você pode seguir O PAÍS Tecnologia em Facebook y Twitter ou cadastre-se aqui para receber nossos newsletter semanal.