O perigo nas eleições deste ano não é a inteligência artificial e, sim, as redes sociais

O ano de 2024 vai ser marcado por grandes eleições no mundo: a corrida presidencial nos Estados Unidos já começou e outras nações como Índia e México também escolhem seus representantes nos próximos meses – no Brasil, as eleições municipais em outubro já dominam as discussões na internet.

Mesmo com o avanço da inteligência artificial (IA) generativa, a principal ameaça à democracia neste ano não são os textos ou imagens geradas por algoritmos: as redes sociais ainda são os vilões políticos, segundo uma pesquisa publicada em fevereiro deste ano pela Universidade de Nova York (NYU).

Intitulado “Digital Risks to the 2024 Elections: Safeguarding Democracy in an Era of Disinformation” (“Riscos digitais para as eleições de 2024: Salvaguardando a democracia em uma era de desinformação”), o estudo afirma que o potencial de distribuição de desinformação segue como o grande perigo tecnológico para as democracias, mesmo com a força da IA – o TSE mirou o problema em fevereiro deste ano, quando regulamentou o uso da IA nas campanhas para as eleições municipais. Agora, é proibido usar deepfakes e toda propaganda que usar IA precisará ser, obrigatoriamente, identificada.

A situação se agrava, sobretudo, porque, no último ano, equipes inteiras de moderação e segurança foram demitidas pelas grandes empresas de tecnologia – o X, de Elon Musk, por exemplo, eliminou a divisão de moderação de conteúdo no fim de 2022, quando o bilionário assumiu a empresa. Na época, mais de 80% dos funcionários foram demitidos.

Ao jornal O Estado de S. Paulo, Paul Barrett, pesquisador sênior do centro de negócios e direitos humanos da NYU Stern e um dos autores do estudo, diz que as grandes empresas de tecnologia estão se esquivando da responsabilidade de operar plataformas livres de conteúdos falsos ou de desinformação em prol da eficiência financeira e do engajamento nessas redes.

O estudo, assinado também por Justin Hendrix, Cecely Richard-Carvajal e Prithvi Iyer, faz ainda uma reflexão sobre como as redes sociais influenciam o processo democrático em outros países. No Brasil, por exemplo, a pesquisa considerou que os ataques de 8 de janeiro de 2023, em Brasília, foram respaldados pelas redes e que uma das maiores barreiras para moderar o conteúdo é a falta de profissionais que falem português nas empresas.

“(As empresas) precisam acrescentar pessoas que falem português e entendam a cultura e a política brasileiras para que possam analisar a situação (eleições) com sofisticação e não como estrangeiros. Mas ainda não vimos isso”, explicou Barrett.

Veja os principais trechos da entrevista:

1) Por que as redes sociais ainda representam um risco maior para as eleições do que a IA?

No estudo, chegamos à conclusão de que é improvável que as criações de vídeos, imagens, áudio ou textos falsos sejam, isoladamente, o principal problema. Não é tanto a nova maneira de criar conteúdo que é problemática, é o velho problema da distribuição do conteúdo. Se quisermos tentar diminuir esse problema, precisamos olhar para as empresas que operam plataformas de rede social há alguns anos.

A inteligência artificial é importante. Queremos enfatizar que ela já está afetando o processo político. Mas o fato de empresas como Meta, Google, X e TikTok não estarem intensificando as atividades para proteger as eleições é o principal problema. Elas parecem estar se afastando, recuando do senso de que são responsáveis por ajudar a resolver problemas que elas mesmas criaram.

2) Enquanto esse formato de rede social existir, ele será o principal perigo para as eleições?

Sim. Ou outra forma de dizer: você não precisa de inteligência artificial para criar problemas pelo X ou Facebook ou Instagram ou TikTok. A inteligência artificial pode facilitar o abuso do sistema, mas você pode deixar a inteligência artificial de lado e ainda assim ter um grande problema.

3) Com as demissões e a redução de equipes de moderação e revisão de conteúdo, as eleições podem encontrar mais problemas com desinformação?

Sim. No X, você, basicamente, tem mesas vazias. As pessoas que estavam lá há um ano ou um ano e meio agora não estão mais. Mas, em um grau menor, isso também é verdade em algumas das outras empresas. É importante lembrar que não se trata apenas do fato de pessoas específicas terem sido demitidas. É o sinal que isso envia para as pessoas que ainda estão lá. As pessoas não estão alheias. E, se olharem ao redor, metade do departamento que costumava se dedicar à proteção das eleições desapareceu. O sinal que recebem é que essa não é a prioridade.