Falar sobre inteligência artificial está na moda. ChatGPT, Open Assistant, Bard e outros modelos altamente relevantes aparecem constantemente em nossas conversas diárias. No entanto, só porque está na moda, não significa que a inteligência artificial seja algo novo. Na verdade, já existe há muitos anos, embora em aplicações menos deslumbrantes do que os grandes modelos de linguagem.
O que é novo é a explosão exponencial das capacidades desses sistemas e a democratização de inteligência artificial que está ocorrendo com sua irrupção, sob a dupla perspectiva de usuários e desenvolvedores. É por isso que o recente apelo de Elon Musk e outros tecnólogos para interromper o desenvolvimento de “sistemas mais capazes que o GPT-4” me causou certo espanto. Um Tratado de Não Proliferação com o objetivo de impedir a disseminação de armas nucleares faz todo o sentido do mundo, pois não se pode ir a um shopping e comprar centrífugas para enriquecer urânio. No entanto, qualquer pessoa com um mínimo de conhecimento tecnológico pode comprar espaço em um servidor em nuvem e começar a desenvolver sistemas de inteligência artificial baseados em bibliotecas de código aberto e conjuntos de dados de treinamento acessíveis ao público. Portanto, proibir o desenvolvimento de aplicativos de inteligência artificial, sem entrar no mérito se é uma boa ideia ou não, não me parece viável. Outra questão é proibir ou limitar certas utilizações da inteligência artificial, e é precisamente isso que pretende a futura lei europeia sobre inteligência artificial, entre outras coisas.
Em vez de tentar abrir portas ao terreno, o que importa fazer é regular e traçar linhas vermelhas que não podem ser ultrapassadas, promovendo ao mesmo tempo a capacidade de inovação das universidades e indústrias europeias no resto. Estou ciente de que hoje existem mais perguntas do que respostas nessa área e, portanto, determinar o que pode e o que não pode ser feito é uma tarefa quase assustadora. No entanto, embora não seja fácil e ainda tenhamos muito a aprender com a IA, a tarefa do regulador é definir as responsabilidades de cada um dos atores envolvidos na vida de um sistema de IA (porque as responsabilidades não podem ser descarregadas para as máquinas ), a fim de capacitar os órgãos fiscalizadores a intervir rapidamente e retirar do circuito aqueles que pretendem fazer uso irresponsável dessa tecnologia. A regulação deve combinar bases sólidas com a flexibilidade necessária para se adaptar aos rápidos avanços que estão ocorrendo (e continuarão a ocorrer nesta área).
Por isso, minha proposta é que abordemos a governança da inteligência artificial da mesma forma que a regulamentação da aviação comercial era tratada em sua época. Ou seja, com rigorosos padrões internacionais em matéria de segurança, independentemente dos custos e com um constante processo de aperfeiçoamento e atualização, em que os profissionais aprendem não só com os acidentes (que felizmente são cada vez mais raros na aviação comercial), mas com qualquer pequeno incidente. ou erro.
Ele Convenção de Chicago, que criou a Organização Internacional de Aviação Civil (ICAO) há quase 80 anos, estabeleceu uma estrutura regulatória para governança internacional e padrões técnicos rigorosos, que os estados membros da ICAO devem transformar em leis em suas respectivas jurisdições e que as companhias aéreas devem cumprir ao pé da letra, se quiserem cruzar fronteiras internacionais. As autoridades supervisoras regionais ou nacionais dos estados membros da ICAO (no caso da União Europeia, inclui-se também a Agência Europeia para a Segurança da Aviação – EASA) só concedem as suas licenças após uma longa cascata de certificações.
Os pilotos só obtêm as licenças de voo após uma formação muito rigorosa e o mesmo se aplica, ao seu nível, aos mecânicos que verificam os aviões ou aos controladores de tráfego aéreo. Aeronaves só podem ser vendidas e colocadas em operação após passarem por inúmeros testes, verificando cada porca ou parafuso. E até a solvência e capacidade das equipas de gestão das companhias aéreas é revista e certificada, porque uma atividade de risco como esta não pode ficar nas mãos de uma equipa de pessoas que não demonstrem capacidade e experiência suficientes. Isso é puro bom senso.
É evidente que o fanático por aviação que constrói seu próprio avião não é o mesmo que Airbus ou Boeing fabricando modelos de aviões comerciais nos quais viajarão milhões de passageiros; O fanático por computadores que constrói um sistema de inteligência artificial para uso próprio não é o mesmo que uma empresa ou um Estado que implementa um sistema de inteligência artificial que terá impacto na vida de milhares ou milhões de pessoas. É neste caso que a regulamentação e a existência e adoção de normas assumem particular importância.
Revisão completa de algoritmos
Acho muito interessante mencionar que a abordagem da aviação comercial é baseada em dados (abordagem baseada em dados) já que, é claro, você não espera que um avião caia para olhar sua caixa preta. As companhias aéreas, sob a supervisão de inspetores e autoridades, analisam cuidadosamente o menor ruído ou anomalia nos dados registrados pelos sistemas durante o voo. Em outras palavras: tudo é processado e comparado repetidamente, de modo que voar de avião é uma atividade de baixíssimo risco e todos nós nos beneficiamos desse ecossistema tão inteligente. Aqueles de nós que embarcamos em um avião, para poder chegar com segurança ao nosso destino; empresas e profissionais do setor, para ganhar uma vida digna. Note-se que, ao contrário do discurso usual das empresas de tecnologia, na aviação comercial a segurança nunca é computada como um custo ou uma barreira à inovação, mas sim como a condição sem a qual o próprio negócio deixaria imediatamente de existir.
Nesse sentido, congratulo-me com o facto de a proposta de regulamentação da inteligência artificial assentar num sistema de análise de risco e prever um conjunto de requisitos aplicáveis a sistemas de IA de alto risco, em particular aos fornecedores de sistemas, como a obrigação de elaborar um declaração de conformidade da UE e para colocar a marcação CE de conformidade. Estas certificações, logicamente, devem ser complementares às certificações, selos e marcas de proteção de dados, que obviamente também devem ser aplicadas com o mesmo rigor aos sistemas que tratam dados pessoais. Além disso, da mesma forma que são esperadas inspeções mecânicas em aviões de tempos em tempos ou quando determinados parâmetros são verificados, os sistemas de inteligência artificial devem passar por auditorias obrigatórias regulares nas quais, como se fossem as porcas e parafusos de uma aeronave, os algoritmos e os dados por trás de seu funcionamento são revisados por inspetores e mecânicos para garantir a segurança do sistema e prevenir acidentes. E não vale a pena que essas informações sejam protegidas por supostos direitos de propriedade intelectual. Para a competição, pode ser; para o inspetor, nunca.
Em suma, se ao que tudo indica, a inteligência artificial continuará avançando vertiginosamente nos próximos anos, substituindo as pessoas e permitindo que as máquinas tomem decisões que afetarão nossas vidas no dia a dia, uma inteligência natural e básica nos avisa. para copiar o modelo de sucesso daqueles que ganham a vida transportando pessoas com segurança a trinta mil pés de altura e mais de quinhentas milhas em alta velocidade.
Da mesma forma que os passageiros podem reclamar uma indemnização em caso de queda de um avião, é necessário que existam regras claras e específicas no domínio da IA em caso de acidentes; que haverá, sobretudo, no início. Nesse sentido, aplaudo o facto de estar a tramitar a nível europeu uma proposta sobre responsabilidade no domínio da inteligência artificial, embora fosse desejável que o próprio regulamento da IA incluísse também um direito de recurso por danos causados por sistemas de inteligência artificial. Só então a aplicação efetiva e a aplicação das leis de IA serão garantidas.
Está ao nosso alcance, portanto, agora que este setor ainda está na sua infância, lançar os pilares de uma inteligência artificial segura, com equivalentes padrões internacionais, que transmita a confiança necessária aos cidadãos e contribua positivamente para o progresso da humanidade.
Então, senhoras e senhores, apertem os cintos, a inteligência artificial está chegando.
Leonardo Cervera Navas é o diretor da Autoridade Europeia para a Proteção de Dados
você pode seguir O PAÍS Tecnologia em Facebook y Twitter ou cadastre-se aqui para receber nossos newsletter semanal.
Com informações do EL Pais / Tecnología
Compartilhe este post
