Detectar deepfakes já é um desafio, mas explicar por que uma imagem é falsa é ainda mais complicado. Pesquisadores do Instituto Fraunhofer de Optrônica, Tecnologias de Sistemas e Exploração de Imagens (IOSB), na Alemanha, desenvolveram uma ferramenta chamada RealorRender que consegue fazer ambos com uma taxa de detecção entre 85% e 91%.

A RealorRender foi desenvolvida em parceria com o Escritório Federal Alemão de Segurança da Informação (BSI), que também financia o projeto. A abordagem utilizada é híbrida e inédita, combinando dois métodos: primeiro, um gerador de imagens de IA tenta reconstruir a imagem analisada. Quanto mais bem-sucedida a reconstrução, maior a probabilidade de que a imagem original também tenha sido gerada por IA.

Em seguida, um modelo de classificação calcula o erro de reconstrução e gera uma estimativa de autenticidade em porcentagem. Segundo Andreas Specker, cientista sênior do grupo de pesquisa de Sistemas de Segurança e Assistência por Vídeo do Fraunhofer IOSB, a ferramenta usa um gerador de imagens de IA para reconstruir a imagem, e então um modelo de IA assume a classificação e realiza um cálculo híbrido do erro de reconstrução.

A RealorRender também explica por que classificou uma imagem como falsa, utilizando métodos de IA explicável (XAI). De acordo com Nadia Burkart, chefe do grupo de IA Explicável Aplicada do Fraunhofer IOSB, texturas distintivas ou padrões de frequência característicos podem indicar a origem sintética de uma imagem. A ferramenta usa dois tipos de visualização: mapas de calor, que destacam as regiões da imagem que mais contribuíram para a decisão do modelo, e análise por segmentos, que identifica áreas semânticas específicas que denunciam a origem artificial.

O problema que a RealorRender tenta resolver é significativo, considerando que em 2025, fraudes envolvendo deepfakes ultrapassaram US$ 1,5 bilhão globalmente. Além disso, uma investigação de 2023 encontrou 276.149 deepfakes sexuais em um único site dedicado ao tema, 96% deles retratando mulheres. A dificuldade dos humanos em distinguir imagens autênticas de falsificações torna ferramentas como a RealorRender essenciais para jornalistas, plataformas de redes sociais e agências de segurança.

A RealorRender está sendo incorporada a um demonstrador que inicialmente auxiliará o BSI na detecção de deepfakes. O uso é simples: o usuário faz o upload da imagem, recebe o resultado da detecção seguido de uma explicação e um resumo em texto. Os pesquisadores publicaram dois relatórios sobre o projeto, e a tecnologia tem aplicação potencial para agências de segurança, plataformas de redes sociais, empresas de mídia e agências de fotografia.

Com informacoes de Olhar Digital.