A União Europeia começou a aplicar novas regras de transparência para conteúdos criados ou modificados por inteligência artificial (IA). O Artigo 50 do AI Act, que entrou em vigor em 2 de agosto, determina que empresas identifiquem imagens, vídeos e áudios gerados por IA quando eles puderem ser confundidos com conteúdos reais.

A regra também abrange determinados textos produzidos ou manipulados por IA sobre assuntos de interesse público, caso não tenham passado por revisão humana ou controle editorial.

O descumprimento pode resultar em multas de até 15 milhões de euros ou 3 % do faturamento anual mundial da empresa.

Como grandes laboratórios de IA operam em diversos mercados e o custo é alto para manter modelos ou versões de produtos diferentes para cada região, as exigências europeias também podem influenciar a forma como essas tecnologias são usadas fora do bloco.

A legislação não determina uma tecnologia específica para fazer a identificação. Em vez disso, ela exige que a origem sintética do conteúdo possa ser reconhecida. Assim, empresas de IA podem recorrer a diferentes métodos. Uma das opções são as marcas d'água invisíveis, inseridas em imagens, vídeos ou áudios; o SynthID, do Google, é um exemplo dessa tecnologia. Como o sinal fica incorporado ao próprio conteúdo, ele pode continuar presente depois de algumas alterações, como cortes ou compressão.

Outra possibilidade é usar metadados, que registram informações sobre a origem do arquivo. O método é semelhante aos dados EXIF encontrados em fotografias digitais, mas tem a desvantagem de que essas informações podem desaparecer quando o arquivo é editado, convertido ou publicado em determinadas plataformas.

A UE também estabelece formas visuais de identificação para conteúdos gerados ou modificados por IA. Os rótulos devem aparecer de maneira clara quando o usuário entra em contato com o material. Já em conteúdos artísticos, criativos, satíricos ou de ficção, a exigência é adaptada: o aviso sobre o uso de IA precisa informar o público, mas sem prejudicar a apresentação ou a fruição da obra.

As diretrizes diferenciam conteúdos totalmente gerados de conteúdos apenas modificados. Exemplos de rótulos são: AI, que indica que houve participação de IA na criação ou alteração do conteúdo, como em um deepfake com voz ou imagem artificial; AI GENERATED, usado quando o conteúdo foi produzido integralmente por IA, como um vídeo fictício de um político ou uma música criada por IA; AI MODIFIED, que identifica conteúdos originalmente feitos por humanos que foram modificados por IA, como uma troca de rosto em uma foto real.

A principal preocupação da UE é reduzir o impacto de desinformação, golpes e deepfakes. Com modelos de IA cada vez mais capazes de produzir imagens, vozes e vídeos convincentes, fica difícil para uma pessoa identificar sozinha se determinado material é autêntico.

A identificação também busca facilitar a rastreabilidade do conteúdo. Em vez de depender apenas da percepção do usuário, plataformas e ferramentas podem usar sinais incorporados ao arquivo ou informações de procedência para verificar se houve participação de IA.

Rotulagem não resolve todos os problemas. Marcas d'água podem ser prejudicadas por alterações no arquivo, capturas de tela, recodificação ou processamento por outros modelos de IA. Esse cenário é conhecido como problema da assimetria: as regras de rotulagem funcionam bem para identificar e catalogar conteúdos sintéticos criados por usuários comuns em plataformas, como OpenAI, Google e Anthropic, porém têm eficácia limitada contra campanhas intencionais de desinformação, nas quais os responsáveis podem usar sistemas modificados ou remover as marcações de IA.

Outro risco é o chamado efeito bumerangue. Se os usuários começarem a confiar demais nos rótulos, podem interpretar qualquer conteúdo sem identificação como verdadeiro, criando uma falsa sensação de segurança justamente nos materiais produzidos por quem não segue as regras. Por isso, a identificação deve funcionar como uma camada adicional de proteção, e não como garantia de autenticidade. A capacidade de avaliar a fonte, o contexto e possíveis inconsistências continua importante mesmo com a adoção das novas regras.

Se você gostou do conteúdo, talvez também se interesse por conferir “É VERDADE que as imagens geradas por IA têm marca d’água oculta que você não vê”.

Com informacoes de Canaltech.