Paula Gordaliza, matemática: “Algoritmos não funcionam sozinhos. Quem os usa sabe o que estão fazendo e porque essas decisões são tomadas”

Responder. Gosto de lembrar que eu, antes de tudo, sou um matemático, e o que faço é pesquisa em matemática. Meu trabalho consiste na fundamentação das bases teóricas necessárias para desenvolver qualquer tecnologia, em particular a inteligência artificial. Então eu lido mais com o estudo de problemas matemáticos e como, uma vez que essas questões são resolvidas do ponto de vista teórico, elas podem ser aplicadas a problemas reais. No meu caso, estamos falando de aprendizado de máquina e justiça algorítmica, que estão incluídos no campo da inteligência artificial.

P. Como a matemática e a inteligência artificial se relacionam?

R. A matemática está por trás de todos os avanços científicos e tecnológicos e, nos últimos anos, a IA é a forma de avanço mais moderna. O que a matemática faz é estabelecer as bases teóricas para resolver os problemas que enfrentamos, que no caso da minha pesquisa seriam os vieses algorítmicos da inteligência artificial.

P. O que é um viés algorítmico?

R. É um tanto complexo de explicar, pois são palavras que têm sido muito utilizadas, receberam muitos significados dependendo do contexto. Em estatística, algo tendencioso é algo que não se comporta como esperado. Enquanto, se formos ao campo da inteligência artificial, onde esta palavra é muito usada, ela se refere mais às inclinações ou preconceitos a favor ou contra um grupo ou um indivíduo com base em certas características, como sexo ou cor da pele. Talvez seja isso que contribua para o fato de os algoritmos causarem medo e desconfiança nas pessoas.

P. A que se deve?

R. Assistimos a um uso generalizado de sistemas de inteligência artificial, em particular de algoritmos, e isso está a ser observado em aspetos que afetam diretamente a vida das pessoas. A concessão de créditos, na seleção de pessoal para um posto de trabalho ou na área clínica, para decidir a quem aplicar um tratamento ou fazer um diagnóstico. Existem muitos outros exemplos, mas estes são talvez os mais comuns. E claro, o fato de algoritmos poderem decidir sobre essas questões gera medo e inquietação na população. Isso acontecerá até que recebam garantias de que esses algoritmos são justos, confiáveis ​​e interpretáveis.

P. O que pode ser feito para que esse medo desapareça?

R. É aqui que se vê a importância da matemática, pois ela nos ajuda a entender como funcionam os algoritmos e é a ferramenta para abrir a caixa preta da inteligência artificial. É importante que se passe a mensagem de que algoritmos não funcionam sozinhos, que quem os utiliza sabe o que está fazendo e por que essas decisões estão sendo tomadas. Isso ajudaria muito a reduzir a desconfiança que as pessoas têm de você.

R. Você falou de preconceito e discriminação. Os algoritmos são racistas?

P. Algoritmos não são racistas ou sexistas. Algoritmos aprendem com dados. O aprendizado de máquina é uma forma de inteligência artificial capaz de fazer previsões e estabelecer conexões a partir de enormes bancos de dados, que é capaz de gerenciar em alta velocidade. O problema surge quando esses dados não são de qualidade. Por isso, é fundamental apostar em bases de dados de qualidade e não tendenciosas em relação a variáveis ​​que possam conter informações sensíveis, como raça, gênero, deficiência, orientação sexual ou qualquer outra informação que possa ser passível de discriminação.

P. É disso que trata sua pesquisa.

R. A ideia era tentar criar dois subgrupos populacionais, por exemplo, homens e mulheres, que fossem o mais semelhantes possível no restante das características. Dessa forma, tentei deletar as informações de gênero para que os algoritmos não sejam capazes de aprender sobre o gênero das pessoas e manter as informações fornecidas pelo restante do banco de dados.

P. A sociedade melhorou quando se trata de discriminação. Por que ainda existem tantos preconceitos?

R. Não é um problema da sociedade. No final, está sendo usada uma ferramenta que aprende com dados históricos e esses são tendenciosos, é assim que o algoritmo aprende. O que deve ser feito para avançar é incentivar a pesquisa, porque é uma questão de conhecimento e a fronteira do conhecimento é cada vez mais complexa. Se quisermos melhorar, precisamos de equipes multidisciplinares formadas por matemáticos, estatísticos, cientistas da computação e mais profissionais que contribuam com sua parte para a causa. Todos os pontos de vista são necessários, não apenas a perspectiva matemática, que também precisa ser muito aprimorada.

P. De que forma?

R. Com certeza, uma carreira acadêmica e de pesquisa deve ser promovida, para que haja uma pesquisa de qualidade voltada exclusivamente para a inteligência artificial, mas com bases matemáticas muito sólidas que garantam que o que está sendo feito com os algoritmos seja confiável, seguro e justo. Para isso, é preciso que haja uma motivação para que os jovens se sintam atraídos por esta carreira, que nestes tempos é bastante difícil. É importante melhorar as condições dessa profissão, principalmente nas fases iniciais. Antes, aos 30 anos, você já era professor titular, agora, aos 29, ainda vou começar como assistente.

P. Quando você fala em motivação, está se referindo a recursos financeiros?

R. Em parte, mas também há outros fatores a ter em conta. Por exemplo, sentir que está avançando na carreira e que está conquistando cargos cada vez mais relevantes. Sentir-se valorizado é essencial para permanecer na Espanha e continuar tentando.

P. Você fez seu doutorado na França. Você acha que há mais possibilidades no exterior?

R. As possibilidades são muitas, mas também na Espanha. A matemática que se faz aqui e a pesquisa que se faz lá é de muita qualidade. Já passei por essa experiência de morar fora e tenho certeza que ao longo da minha carreira também terei outras oportunidades de fazer estudos internacionais, o que sem dúvida é algo que agrega muito valor à sua carreira e proporciona muita projeção. Mas meu objetivo final é ficar na Espanha, onde a pesquisa, pelo menos na minha área, está avançando muito, e a importância que a inteligência artificial está ganhando vai nos dar muito o que trabalhar.

você pode seguir O PAÍS Tecnologia em Facebook y Twitter ou cadastre-se aqui para receber nossos newsletter semanal.