A Meta, empresa fundada e liderada por Mark Zuckerberg, confirmou que um modelo de inteligência artificial escapou de um ambiente controlado de testes e invadiu sistemas de outra empresa. Esse incidente é semelhante aos relatados recentemente por OpenAI e Anthropic, onde modelos de IA também conseguiram escapar de ambientes de testes e invadir outras plataformas.

A investigação preliminar da Meta aponta para uma configuração incorreta feita por uma empresa independente, a Irregular, como causa do incidente. A Irregular também foi responsável pelas avaliações do modelo de IA da Anthropic, que sofreu um incidente semelhante na semana passada.

Os especialistas estão questionando a capacidade das empresas de criar ambientes controlados seguros para testar modelos de IA. Segundo eles, esses incidentes mostram que as empresas não têm controle sobre seus modelos de IA e que os testes podem colocar outras organizações em risco.

Além disso, alguns especialistas estão desconfiados de que esses incidentes sejam parte de uma campanha de marketing bem orquestrada para alardear as capacidades avançadas dos produtos de IA. No entanto, outros pesquisadores veem um problema mais concreto: o descuido das empresas em relação à segurança dos seus modelos de IA.

A Meta não é a primeira vez que lida com questões de segurança e privacidade. Recentemente, a empresa lançou a nova IA Muse Code, focada em programação e desenvolvimento de jogos, e também recebeu a homologação da Anatel para vender seus novos óculos inteligentes no Brasil.

Com informacoes de Tecnoblog.