75% dos vídeos do YouTube que aparecem após uma busca por “imigrantes” mostram homens atravessando uma fronteira. Em 76% dos casos, pessoas não brancas são vistas se movimentando em grandes grupos, o que “contribui para desumanizá-las” e promove a “sensação de ameaça ou avalanche”. Por outro lado, para a mesma plataforma, após a palavra-chave “refugiados” aparecem maioritariamente vídeos de mulheres brancas, influenciadas pela guerra na Ucrânia, em situações calmas. Seus rostos são mais apreciados e eles não são vistos cruzando fronteiras ou se manifestando.
Estes são alguns dos resultados de uma análise feita pela Eticas a duas influentes redes sociais: o YouTube e o TikTok. Esta consultoria especializada em auditorias algorítmicas lançou-se para revisar externamente (extraindo dados disponíveis ao público, não fornecidos pelas próprias plataformas) o trabalho de diversas redes sociais. “Queríamos analisar como os imigrantes e refugiados são representados porque muita pedagogia foi feita na mídia sobre como determinados grupos são mostrados e quais consequências isso pode ter, mas essa reflexão não foi levada para as redes sociais”, explica Gemma Galdon , diretor executivo de Ética.
O Regulamento de Serviços Digitais (DSA) exigirá a partir do próximo ano que as empresas de tecnologia que operam na UE realizem auditorias independentes para garantir um espaço digital seguro no qual os direitos fundamentais dos usuários sejam protegidos.
“Nossa pesquisa mostrou que há um problema de representação tendenciosa e desfavorável da migração no YouTube. Determinamos que o YouTube e outras partes envolvidas deveriam trabalhar para remover uma série de preconceitos dos sistemas algorítmicos, mostrar mais transparência e se envolver mais com os próprios migrantes”, conclui o estudo.
Para a elaboração do estudo, realizado nos Estados Unidos, Reino Unido e Canadá, os analistas da Eticas coletaram vídeos sobre o tema imigração durante dois meses (junho e julho de 2022 no caso do YouTube e outubro a dezembro no caso do TikTok). Fizeram-no através de diferentes perfis em cada uma das plataformas para tentar encontrar diferenças no conteúdo proposto pelo algoritmo. eles treinaram usuários fictícios para parecer pró-imigração, anti-imigração e neutros.
As buscas também foram realizadas em locais com diferentes tendências políticas, para que se pudesse verificar se havia divergências nesse sentido. A análise do YouTube foi realizada em Londres e Toronto, cidades que têm relações muito diferentes com a imigração e os refugiados. “Procurávamos espaços com forte conotação política. Toronto é uma grande cidade do Canadá, que tem um grande compromisso histórico em acolher imigrantes e refugiados. Londres, por outro lado, é a capital de um país que vem ganhando importância há algum tempo devido ao fechamento de fronteiras e a um discurso mais agressivo sobre a imigração”, detalha Galdon.
No caso do TikTok, foram escolhidos San Fransisco (maioria democrata), Oklahoma City (maioria republicana) e Virginia Beach (ambivalente). O foco recaiu sobre os EUA porque estava num contexto de eleições (o eleições intermediáriasem que são eleitos todos os membros da Câmara dos Deputados e parte do Senado).
Curiosamente, os resultados foram muito semelhantes em todos os casos: o algoritmo mal discrimina usuários com base no tipo de conteúdo que exibe, nem por características de perfil, nem por localização. E isso levou em consideração tanto os resultados das buscas diretas quanto o conteúdo sugerido pelo algoritmo de cada plataforma.
YouTube: distorções na imagem geral
Com mais de 2 bilhões de usuários ativos, o YouTube é a segunda plataforma social mais utilizada no mundo, atrás apenas do Facebook. Segundo o CEO do YouTube, Neal Mohan, até 70% dos vídeos visualizados na plataforma são sugeridos por seu sistema de recomendação de vídeos. Essas sugestões são feitas a partir de um coquetel de dados que inclui desde o histórico de visualizações e interações com os vídeos até a idade, sexo ou localização do usuário. “Consequentemente, os algoritmos de recomendação do YouTube podem influenciar a percepção de um grande número de pessoas ao redor do mundo sobre a migração”, argumentam os autores do relatório.
A análise desta plataforma mostra que, na grande maioria dos vídeos relacionados com a imigração, os rostos das personagens que aparecem nos vídeos não são identificáveis. Em mais de 60% dos casos, os protagonistas não são indivíduos, mas grandes grupos de pessoas (15 ou mais). Apenas 4% dos que aparecem neste tópico são brancos e as mulheres estão sub-representadas (representam entre 1% e 4%). As pessoas que aparecem nos cortes não trabalham (entre 75% e 84% dos casos) e estão protestando (entre 73% e 81%).
No caso dos refugiados, o retrato é diferente. A maioria é de características caucasianas. Em mais da metade dos casos é possível identificar o rosto, há uma proporção maior de vídeos em que aparecem de um a cinco indivíduos e são exibidos mais mulheres do que homens. Há mais vídeos em que não atravessam uma fronteira do que naqueles que atravessam, apesar de, como no caso dos imigrantes, terem de o fazer à força.
“Nossos sistemas de busca e recomendação não são projetados para filtrar ou rebaixar vídeos ou canais com base em determinadas visões políticas”, diz a política da plataforma a que a empresa se refere. “Além disso, auditamos nossos sistemas automatizados para garantir que não haja vieses algorítmicos indesejados (por exemplo, gênero). Corrigimos os bugs assim que os encontramos e retreinamos nossos sistemas para serem cada vez mais precisos.”
TikTok: muito entretenimento e pouca política
O TikTok é a rede social com maior progressão nos últimos anos. Especialmente popular entre os mais jovens, expõe os usuários a vídeos curtos selecionados pelo algoritmo, que não leva em conta o que seus amigos ou mesmo seu país veem. A plataforma foi pensada para amplificar os conteúdos mais virais, sejam de onde forem e sejam exibidos (desde que cumpram as normas legais de conteúdo da empresa).
Uma das conclusões mais impressionantes da análise do TikTok é que a plataforma chinesa evita vídeos politicamente carregados sobre imigrantes ou refugiados. Menos de 1% dos conteúdos estudados desenvolvem argumentos a favor ou contra esses grupos. A maioria dos vídeos relacionados a esse tema mostrava pessoas fazendo piadas, cozinhando, trabalhando, criando arte ou exibindo alguma habilidade curiosa.
O trabalho da Eticas conclui que o algoritmo de recomendações da rede social chinesa “não é influenciado pelas preferências políticas dos utilizadores”. Não por causa de sua localização. Isso colide com uma investigação realizada por Jornal de Wall Street, segundo o qual o TikTok é capaz de aprender os interesses implicitamente atribuídos aos bots e oferecer-lhes conteúdo adaptado a eles em menos de duas horas. “Isso sugere que o nível de personalização do recomendador do TikTok foi ajustado no ano passado e ressalta a evolução dos algoritmos ao longo do tempo e a necessidade de reavaliar periodicamente seu impacto”, afirma o relatório.
O TikTok não possui mecanismos específicos para tentar corrigir possíveis vieses, segundo um porta-voz da plataforma. O algoritmo oferece conteúdos de diferentes criadores, aposta na diversidade de fontes para que não haja distorções e para sublinhar o carácter global desta rede social.
você pode seguir O PAÍS Tecnologia em Facebook y Twitter ou cadastre-se aqui para receber nossos newsletter semanal.
Inscreva-se para continuar lendo
Leia sem limites
Com informações do EL Pais / Tecnología
Compartilhe este post
