Em 2018, o governo da Coreia do Sul inaugurou um núcleo especializado, localizado no centro de Seul, dedicado a identificar e suprimir conteúdos sexuais ilícitos produzidos sem a autorização das pessoas retratadas, sobretudo deepfakes.

O espaço, decorado com faixas de apoio a vítimas de violência sexual, conta exclusivamente com colaboradoras; atualmente são 23 profissionais que atendem as solicitações encaminhadas pelas vítimas. Desde a sua criação, o centro já prestou assistência a 53.000 pessoas e promoveu a remoção de mais de 1.000.000 de materiais pornográficos ilegais.

Além da sede principal, a estrutura possui 17 filiais regionais que oferecem suporte psicológico e orientação jurídica às vítimas.

Kim Hyojung, responsável pela equipe, descreve o fluxo típico de atendimento: a maioria das pessoas chega ao centro após ser alertada por familiares ou conhecidos de que um vídeo seu está circulando online. Um sistema de inteligência artificial, desenvolvido internamente, rastreia republicações do mesmo material, permitindo que a equipe solicite a exclusão tanto em redes sociais quanto em sites pornográficos.

Os obstáculos são frequentes. Muitos dos vídeos permanecem em sites ilegais que ignoram as solicitações de remoção; nesses casos, a polícia pode ser acionada para fechar o domínio. Quando o conteúdo está hospedado no exterior, o problema se repete, mas Kim aponta que 80 % das ocorrências internacionais envolvem servidores situados nos Estados Unidos, e as autoridades norte‑americanas têm colaborado com os pedidos de retirada.

De acordo com a empresa australiana Security Heroes, mais da metade das vítimas de deepfakes pornográficos no mundo são sul‑coreanas, e o centro registra crescimento de casos em todas as faixas etárias.

O trabalho diário de analisar imagens e vídeos de teor pornográfico – inclusive alguns contendo abuso infantil – tem repercussões psicológicas nas integrantes da equipe. Uma das analistas, identificada apenas como Park, relata que todas são afetadas emocionalmente; algumas colegas desenvolveram insônia, outras choram ao visualizar determinadas publicações ou perdem o apetite a ponto de pular refeições.

Para mitigar esse impacto, o centro oferece acompanhamento psicológico contínuo, com sessões individuais de um psicólogo realizadas uma ou duas vezes por mês.

Park também destaca que o retorno das vítimas funciona como incentivo: “Quando recebemos mensagens de agradecimento de quem foi ajudado, percebemos que, ainda que modestamente, contribuímos para que essas pessoas retomem suas rotinas”.

Como já apontamos em nossa cobertura sobre o programa AI for All, a Coreia do Sul tem ampliado o uso de inteligência artificial para proteger a população, e o centro de combate a deepfakes demonstra como a tecnologia pode ser empregada na defesa dos direitos individuais na internet.

Com informacoes de Olhar Digital.