Kate Darling, especialista em robôs: “Não devemos rir de pessoas que se apaixonam por uma máquina. Vai acontecer com todos nós”

Perguntar. Como o sucesso do ChatGPT mudou a maneira como você vê o futuro dos bots?

Responder. É uma grande mudança. Muitas pessoas não previram isso. Se você tivesse me perguntado há alguns anos se teríamos esse tipo de sofisticação, eu diria que não, nunca. Isso muda o jogo de várias maneiras. O que vai acontecer agora? Ninguém sabe. Para mim, uma das grandes questões é: as capacidades que estamos vendo na IA generativa se traduzirão na capacidade de controlar e programar robôs físicos? Esse tipo de inteligência e aprendizado seria realmente incrível. Não tenho certeza do que vai acontecer.

P. Não há definição de robô. Por que é tão difícil?

R. Não existe uma definição universal. Dependendo do escopo, eles darão uma definição ou outra. Ao longo da história, algo novo foi chamado de robô, uma nova tecnologia que as pessoas não entendem, que tem algo de mágico. Então, quando se torna mais comum, as pessoas param de chamá-lo de robô e começam a chamá-lo de lava-louças ou máquina de venda automática.

P. Há muito debate agora com uma possível extinção causada por uma IA capaz de decidir por si mesma.

R. Sou uma pessoa muito prática e não sei como algo assim pode se desenvolver. Não há muito que possamos fazer para prever se isso acontecerá e não há nada que possa nos proteger além de interromper a pesquisa de IA, o que não acontecerá. Estou mais interessado em saber se as pessoas acreditarão que a IA é consciente, independentemente de realmente ser ou não. Isso é algo que devemos enfrentar como sociedade.

Uma nova tecnologia que as pessoas não entendem foi chamada de robô. Então eles começam a chamá-lo de lava-louças ou máquina de venda automática.

P. Para entender o que é um robô, ele diz que é melhor compará-lo com um animal do que com um humano. Você mantém essa ideia depois do ChatGPT?

R. Sim. Eu sei que agora é mais difícil comparar com uma IA que usa linguagem humana. Mas a razão é ainda mais importante, que consiste em dizer que não é tão valioso ou útil criar algo que já temos, que já podemos fazer. É mais valioso ter máquinas que possam nos complementar ou ser parceiras naquilo que estamos tentando alcançar. Muitas tarefas que a IA generativa fará agora são feitas por humanos, mas acho que o verdadeiro potencial da tecnologia é ser uma ferramenta que se mistura com outras habilidades humanas e não apenas uma substituição.

P. Veja robôs logo como membros de nossas famílias. Como eles serão?

R. Em muitas pesquisas sobre interação humano-robô, as pessoas já tratam os robôs como seres vivos, mesmo sabendo que são apenas máquinas. Mas as pessoas adoram fazer isso. As pessoas até antropomorfizam robôs e nós nos projetamos neles, damos a eles qualidades humanas loucas, emoções. As pessoas também entendem que estão interagindo não com uma pessoa, mas com outra coisa. Os robôs serão um novo tipo de relação social: pode ser como um animal de estimação ou pode ser algo totalmente diferente, por isso meu livro se chama uma nova raça. Mas não acho que substitua necessariamente as relações humanas. Será algo diferente, mas com certeza vai acontecer.

O verdadeiro potencial da tecnologia é que ela é uma ferramenta que se combina com outras habilidades humanas e não apenas uma substituição.

P. Ele tem robôs em casa. Como são? Que fazem?

R. Eu tenho alguns tipos diferentes. Temos um bebé foca, um robô dinossauro, um cão robô e depois temos outros robôs que são mais para ajudar em casa, como um ajudante ou um aspirador de pó. Todos eles fazem coisas diferentes e meus filhos interagem com eles de maneira diferente, dependendo se os veem como uma ferramenta ou um parceiro.

P. Os robôs acompanhantes podem ser desligados ou estão sempre ligados?

R. Nós os desligamos. Embora alguns sejam projetados para estarem sempre ligados. O cão, por exemplo, quando a bateria está fraca, procura o seu local de carregamento e deita-se como se fosse dormir para se carregar.

P. Esses robôs de estimação estão prontos para entrar em milhões de lares?

R. Já vimos, com essa tecnologia primitiva e caríssima, que as pessoas que a possuem desenvolvem conexões significativas. A tecnologia não vai piorar. A barreira para os robôs domésticos não é a complexidade do robô, mas sim o fato de as pessoas ainda não conhecerem o valor social que possuir um deles lhes proporcionaria. Assim que obtiverem efeitos positivos suficientes de um robô doméstico que muitas casas terão, haverá um ponto de inflexão e mais pessoas os desejarão.

‘Her’ é sobre um aplicativo lançado por uma empresa, qual é o seu modelo de negócio? o que eles estão tentando fazer?

P. O que você quer dizer com “efeitos positivos”?

R. As pessoas costumavam não ver o valor de ter um animal de estimação. O animal tinha que cumprir uma função: o cachorro cuidava da casa e o gato pegava os ratos, mas aí as pessoas perceberam que o verdadeiro valor era a relação com o bichinho e a conexão emocional. Agora eles têm animais de estimação por esse motivo. O mesmo acontecerá com os robôs. Neste momento têm uma função: assistentes, aspirar o chão. Mas, uma vez que haja um número adequado de bots para as pessoas interagirem, elas verão valor na conexão social e os desejarão também por esse motivo.

P. Ele disse que o filme Dela, sobre um humano que se apaixona por uma máquina, se preocupa e o excita em igual medida. Que questões éticas você vê?

R. Dela trata-se de um aplicativo lançado por uma empresa. São muitas as perguntas: qual é o modelo de negócio da empresa? o que eles estão tentando fazer? Eles provavelmente estão tentando maximizar seus lucros. São pessoas em uma posição muito vulnerável porque já têm uma ligação emocional muito forte com um aplicativo, um aparelho, um robô. Isso já está acontecendo. O aplicativo Replika, que já tem milhões de usuários, tem pessoas emocionalmente ligadas a ele. Também estou preocupado com o fato de haver problemas de privacidade e coleta de dados. Você pode manipular emocionalmente as pessoas para que comprem produtos e serviços ou mudem seu comportamento, não em seu próprio interesse, mas no interesse de uma empresa.

P. Ele disse que pode imaginar que um aplicativo sexual possa explorar a fraqueza de um usuário no calor do clímax.

R. Sim.

P. Não é ruim marketing?

R. Ainda é um pouco mais sutil. Mas o Replika tem compras no aplicativo que as pessoas compram e, portanto, é fácil manipular, gastar dinheiro ou exibir publicidade. Essas são questões de proteção ao consumidor porque são um tanto persuasivas, mas de uma forma excessivamente manipuladora.

P. Haverá uma maneira razoável de monetizar esses aplicativos?

R. Sim, quando os consumidores percebem o valor de comprar um parceiro artificial e pagam o suficiente por isso. Eles podem vendê-lo e é isso. Eu acho que isso vai acontecer? Não. Mas seria a melhor maneira de proteger a privacidade e não ter que manipular emocionalmente ninguém.

P. Muitas pessoas ficarão surpresas que alguém humanize essas máquinas. Mas estamos programados para isso.

R. Sim. E não vai desaparecer. Se algo se move ao nosso redor é porque está vivo. É assim que nosso cérebro pensa e existe essa projeção subconsciente que ocorre não só com objetos em movimento, mas com um chatbot ou o que quer que imite o comportamento humano, coisas que reconhecemos como sinais, sons e evidências científicas mostram que fazemos isso desde cedo. Está muito arraigado e continuará a estar lá.

[Lo que más me preocupa es] empresas, a estrutura de incentivos e problemas políticos e econômicos. É uma questão de governança, não de tecnologia

P. Os robôs vão morrer. Será que nos divorciamos ou abandonamos um robô em uma vala por causa de uma atualização do Programas?

R. Sim provavelmente. Relacionamentos podem acabar de qualquer maneira, e teremos relacionamentos reais com robôs, sejam eles relacionamentos humanos, humanos-animais de estimação ou novos relacionamentos. Como tal, podem terminar de diferentes formas, tanto com a morte como com alguém decidindo que não quer mais continuar. Todos os tipos de coisas acontecerão. É fácil prever porque as pessoas desenvolvem relacionamentos emocionais com entidades artificiais. Mas ainda há muitas pessoas que não entendem isso.

P. Eles não entendem que podem se esgueirar por uma máquina?

R. Sim. Já existem histórias de pessoas que se apaixonam por seus chatbot. A maioria das pessoas pensa que não. Que aquelas pessoas que se apaixonam são tristes e solitárias, mas não são. Todos nós somos suscetíveis ao vínculo com as máquinas, especialmente quando elas são um pouco mais interessantes e mais disponíveis. Precisamos levar isso mais a sério em vez de rir de alguém que se apaixona por um robô porque isso vai acontecer com todos nós.

P. Não é incrível que a máquina pela qual nos apaixonamos seja apenas uma tela?

R. Não muito. Mesmo com o chatbots pessoas mais primitivas se abriram. No MIT, eles criaram Eliza na década de 1970 e as pessoas contaram a ela suas coisas. Somos otários de tudo que nos dá sinais que reconhecemos, mesmo que seja apenas uma tela. A razão pela qual eu amo robôs físicos é porque eles adicionam aquela camada mais visceral que os torna mais atraentes.

P. Mas ele não gosta de robôs humanóides.

R. Não, eles são chatos.

P. Ele prefere R2-D2, uma “lata de lixo sobre rodas”.

R. Eu gosto de robôs que são projetados para serem fofos e identificáveis ​​para as pessoas, mas eles não precisam parecer humanos. É muito mais interessante criar uma forma e às vezes funciona ainda melhor, porque se parecer muito humanóide, as expectativas de como ela deve se comportar e o que deve fazer são frustradas. Já com algo que parece uma lata de lixo animada, você não tem as mesmas expectativas.

P. Você está mais animado ou preocupado com esses desenvolvimentos?

R. Ambos.

P. O que te preocupa mais?

R. As empresas, a estrutura de incentivos e os problemas políticos e econômicos. É uma questão de governança, não de tecnologia.

você pode seguir O PAÍS Tecnologia em Facebook y Twitter ou cadastre-se aqui para receber nossos newsletter semanal.