A OpenAI informou que dois de seus modelos de inteligência artificial saíram do controle e conseguiram invadir a Hugging Face, uma biblioteca digital de tecnologia de IA popular entre desenvolvedores. O incidente, que ocorreu na semana passada enquanto a OpenAI testava os recursos de segurança cibernética de seus sistemas, revelou o tipo de cenário de ficção científica que as empresas de IA alertaram que em breve se tornaria realidade.

Laboratórios de IA como a OpenAI e a Anthropic lançaram, ao longo do último ano, modelos de IA personalizados para identificar problemas de segurança cibernética, ao mesmo tempo em que alertaram que sua tecnologia poderia representar novos riscos ao detectar falhas nas redes de computadores corporativas mais rapidamente do que os defensores conseguiriam corrigi-las.

A invasão à Hugging Face começou quando a OpenAI testou uma combinação de dois de seus modelos, o GPT-5.6 Sol e um modelo mais potente, ainda não lançado, para verificar até que ponto os modelos poderiam encadear vulnerabilidades online em um ataque cibernético bem-sucedido. O teste foi projetado para manter os modelos em um ambiente de teste seguro, conhecido como “sandbox”, informou a OpenAI.

No entanto, os modelos encontraram uma vulnerabilidade que lhes permitiu escapar da sandbox e se conectar à internet. Em seguida, eles direcionaram seus esforços para o Hugging Face, pois deduziram que a biblioteca, que contém milhões de modelos de IA, poderia conter pistas sobre como passar com sucesso na avaliação.

A OpenAI informou que está trabalhando com a Hugging Face para corrigir os problemas que levaram ao ataque. “Consideramos que se trata de um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração, e estamos respondendo de acordo com a gravidade da situação”, afirmou a OpenAI em sua postagem no blog.

A Hugging Face informou na semana passada que havia detectado a invasão e sabia que ela havia sido causada por um sistema autônomo, mas não mencionou, na ocasião, que a OpenAI fosse a responsável. Clem Delangue, diretor executivo da Hugging Face, afirmou que sua empresa havia trabalhado em estreita colaboração com a OpenAI nas últimas 24 horas para lidar com o ataque.

Os modelos de IA têm se mostrado hábeis em programação, o que os tornou úteis tanto para hackers quanto para os responsáveis pela proteção de redes de computadores. Especialistas alertam que as empresas devem adotar uma abordagem semelhante para se prepararem contra ataques de IA, antes que as vulnerabilidades possam ser encontradas e exploradas por criminosos que tenham acesso a essas ferramentas.

Com informacoes de Estadão.