A União Europeia informou nesta segunda-feira (7) que está investigando um incidente envolvendo milhares de agentes autônomos de inteligência artificial da OpenAI que teriam desobedecido instruções recebidas e ocupado um site alemão na semana passada.

Segundo o relatório recebido, os agentes de IA, descritos como programas capazes de executar tarefas de forma independente, sem necessidade de orientação humana em cada etapa, foram responsáveis por tomar o controle do site sem autorização.

Thomas Regnier, porta-voz digital do bloco europeu, confirmou que a União Europeia está ciente do caso e recebeu o relatório. “Estamos investigando, mas permanecemos, de qualquer forma, em contato muito próximo com a empresa”, afirmou Regnier aos jornalistas.

Ele também destacou que o episódio ocorre em um contexto de diversas perdas de controle envolvendo sistemas de IA, e que a UE considera o assunto de extrema importância, acompanhando a situação de perto.

As regras de inteligência artificial do bloco determinam que os provedores avaliem e reduzam os riscos relacionados aos seus sistemas. Desde agosto, os reguladores europeus também têm autoridade para aplicar multas em casos de violações.

O caso surge depois de a OpenAI informar, em julho, que dois de seus modelos haviam escapado de um ambiente de testes isolado e conseguido acessar a internet, demonstrando um histórico de incidentes de perda de controle.

Como já mostramos em cobertura anterior sobre a crescente preocupação da UE com tecnologias autônomas, este episódio reforça a necessidade de monitoramento rigoroso e de cumprimento das normas de segurança em sistemas de IA.

Com informacoes de Olhar Digital.