Em todos os meus anos no mundo jurídico, nunca vi ninguém usar o argumento “estou louco, me pare” para evitar a regulamentação. “Mitigar o risco de extinção da IA deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear”, assinam e afirmam Demis Hassabis, CEO do Google DeepMind, ou Sam Altman, CEO da OpenAI – boliche em toda a Europa – entre uma longa lista de gerentes e cientistas de IA em um comunicado publicado no site do Center for AI Safetyuma organização sem fins lucrativos da qual não é possível saber em seu site quando foi criada ou quem paga as contas.
Eu li isso e só posso pensar, bem, desligue e vamos continuar com nossas vidas de escolha em escolha, que já temos o suficiente com nossos riscos existenciais diários para lidar com o fim do mundo nas mãos da Skynet. Se aplicarmos o estado de alarme aos controladores de tráfego aéreo para irem de férias, não sei o que Biden faz que não mande a Guarda Nacional à sede da OpenIA para desligar os servidores. Se Bruce Willis estivesse no comando, já teria parado com toda essa bobagem, mas parece que só temos burocratas ingênuo vítimas do tocomocho.
Vamos aplicar a lógica dos colapsos iminentes. No caso da ameaça nuclear, o risco é mitigado com o equilíbrio de forças, com o princípio da destruição mútua assegurada. Gosto de princípios como esse, baseados em um profundo conhecimento da natureza humana, daqueles que apelam para a amígdala e funcionam bem em caso de conflito. O risco de pandemia, como temos vivido nas nossas carnes, é multifatorial nas suas causas e nos responsáveis, pelo que é difícil de mitigar. Assim, como não somos capazes de implementar medidas eficazes para limitar a sua ocorrência (embora existam), o que fazemos é reagir desenvolvendo novas vacinas que, se funcionarem bem, irão mitigar o risco de uma nova pandemia acontecer.
Com suas falhas, esses sistemas de mitigação de risco parecem racionais, baseados na experiência e na ciência. Mas quando pensamos em como resolver os problemas existenciais de uma IA assassina, em vez de fazer o lógico, desligá-la ou desconectá-la da internet, proibi-la de funcionar ou jogá-la fora, nossa reação é auditá-la, ainda que voluntariamente. , não fique bravo HAL antes do tempo e nos envie uma chuva de fogo e sapos assassinos que nos torna os protagonistas da vigésima quarta série de zumbis. Admito que essa lógica ou sua ausência está além de mim. E admito que reconheço isso porque os chefes das empresas de tecnologia são trapaceiros muito espertos que lutam contra nós há algumas décadas.
Antes, bastava eles colocarem “inovação” no início das frases para convencer os governantes que estavam mais interessados na conquista do campo de batalha do que nos direitos dos cidadãos. A lógica de deixar crescer para depois regular é encontrada em todas as revoluções industriais e sociais e, portanto, tem uma base racional, embora tenha sido equivocada nesta. Na análise racional de risco, o crescimento econômico, o controle de setores-chave e o posicionamento dos EUA na vanguarda, bem acima dos direitos individuais, tiveram maior peso. Não gosto, erraram no cálculo de longo prazo, mas responde a uma metodologia racional. Quando pensamos em riscos existenciais, preferimos que todos deixem suas emoções em casa.
Agora que reguladores e governos não estão, no que diz respeito à tecnologia, no ciclo expansionista, mas no regulatório, o tecnomoguls Eles sabem que inovar é muito mais complicado. E isso é um incômodo quando você gasta seu dinheiro em uma tecnologia que cresce lentamente, mas explode e se expande rapidamente. Uma pena, Sam Altman deve ter pensado, que não fui pego pelo surto de IA generativa no início dos anos 2000. Que horas fazer o que se queria. Então, espertinho, você nos chocou com a doutrina chocante e foi tão longe. Naomi Klein estudou muito bem em seu trabalho de mesmo título: se você assustar o suficiente, eles vão deixar você fazer o impensável. E o exemplificou em seu trabalho com o desastre causado pela aplicação do susto ou da morte no Chile de Pinochet, um laboratório de testes para as políticas econômicas ultraliberais de Friedman e da Escola de Chicago. não importa quantos explicações do blog da minoria são dadas para explicar como elas estão nos distraindo do que é importante. O susto está dado e Bruce não vem nem é esperado.
você pode seguir O PAÍS Tecnologia em Facebook y Twitter ou cadastre-se aqui para receber nossos newsletter semanal.
Inscreva-se para continuar lendo
Leia sem limites
Com informações do EL Pais / Tecnología
Compartilhe este post
