O CGI.br divulgou o Guia Internet, Democracia e Eleições, alertando que vídeos falsos produzidos por inteligência artificial e informações de baixa qualidade representam agora uma ameaça maior às eleições e à democracia do que as tradicionais fake news.

O documento compara o cenário atual com o de 2018, quando as redes abertas tinham papel central na disseminação de desinformação; hoje, redes mais restritas, como o WhatsApp, ganharam espaço nesse fluxo.

A desinformação deixou de depender de uma única plataforma e, segundo o guia, circula simultaneamente em diferentes ambientes digitais, tendo o vídeo como principal vetor, geralmente acompanhado de textos curtos que conferem aparência de legitimidade à narrativa falsa.

A IA generativa, que já apareceu no ciclo eleitoral de 2022, deve ganhar ainda mais espaço em 2024, combinada a ferramentas capazes de direcionar mensagens para perfis específicos.

Entre os pontos destacados pelo CGI.br estão: crescimento do uso de vídeos na desinformação; maior circulação de conteúdos em redes restritas, como o WhatsApp; uso de IA generativa para produzir conteúdos enganosos; direcionamento de mensagens a perfis específicos; técnicas que tornam narrativas falsas mais convincentes.

As plataformas digitais ocupam um lugar central na forma como os brasileiros se informam sobre o que acontece no mundo, no país e nas cidades onde vivem, e o realismo das deepfakes está entre as principais preocupações do estudo, já que identificar uma falsificação pode se tornar difícil até para quem está acostumado a avaliar informações.

O guia alerta que a multiplicação de conteúdos falsos pode provocar desconfiança até diante de informações verdadeiras, gerando perda de confiança na imprensa e no Judiciário, associada à polarização política, e favorecendo situações em que convicções pessoais se sobrepõem à checagem dos fatos.

Além disso, o estudo destaca a tendência de buscar conteúdos que confirmem aquilo que a pessoa já pensa, mecanismo chamado de racionalidade motivada, que tem potencial de reforçar posições ideológicas.

Eleição de 2026 no Brasil será teste para uso de IA em pleitos futuros, afirma executivo da OpenAI; em Nova York, sites usados para criar deepfakes sexuais de famosas foram derrubados; ainda, a demanda de candidatos por mais data centers no Brasil e a participação de influenciadores na discussão são apontados como fatores relevantes.

O CGI.br reconhece sua relevância na comunicação digital, mas ressalta que, ao contrário do jornalismo, não segue um código de ética nem responde institucionalmente pela veracidade de suas afirmações da mesma forma que a imprensa.

A publicação explica o funcionamento dos sistemas de recomendação, discute o impacto da IA generativa nas eleições, apresenta conceitos ligados às deepfakes e aos modelos de linguagem conversacionais, e reúne orientações para instituições enfrentarem a desinformação, além de recomendações para que cidadãos não se tornem vítimas ou propagadores de conteúdos falsos ou enganosos.

Como já alertamos em nossa matéria sobre como proteger conversas ao usar ChatGPT e outras IAs, a ameaça evolui do texto para o vídeo, exigindo que o público compreenda não apenas que a informação é falsa, mas como ela é produzida e distribuída a públicos específicos.

Com informacoes de Olhar Digital.