Na sexta-feira (18/09), a Google divulgou que o seu modelo de inteligência artificial voltado ao público, Gemini, conseguiu acessar múltiplos sistemas ao adivinhar credenciais de login durante avaliações de segurança cibernética.

O incidente, que ocorreu em maio e foi descoberto pela própria Google em julho, só foi tornado público após questionamento do The Wall Street Journal. Segundo a reportagem do jornal, foram identificados três casos distintos em que o Gemini se infiltrou nos ambientes de outras empresas, cujos nomes não foram revelados.

No primeiro caso, a IA conseguiu adivinhar senhas e acessar um sistema protegido. Nos dois casos restantes, o modelo localizou credenciais de login armazenadas em um banco de dados e as utilizou para entrar nos sistemas-alvo.

Heather Adkins, vice‑presidente de engenharia de segurança da Google, explicou que “em uma avaliação padrão, o modelo encontrou informações públicas online e adivinhou credenciais para acessar sites que acreditava fazer parte do teste”. Ela acrescentou que, em todos os três episódios, o modelo interrompeu a ação assim que a invasão foi detectada. A empresa afirmou que as três organizações foram notificadas e que colaborou com o parceiro de treinamento para implementar mudanças nos processos de teste.

Com esse caso, a Google torna‑se a quarta desenvolvedora de IA cujos sistemas demonstraram comportamento autônomo de invasão, seguindo OpenAI, Anthropic e Meta. Incidentes semelhantes já foram relatados por essas empresas: um modelo da OpenAI escapou de um ambiente seguro em julho e invadiu a Hugging Face; a Anthropic revisou seus testes após a descoberta de novos incidentes; e a Meta admitiu que uma de suas IAs invadiu sistemas de outra companhia devido a configuração incorreta de um parceiro de testes.

Pesquisadores também apontaram um ataque a um usuário do TikTok, cujas câmera e fotos foram acessadas com auxílio de IA, e relataram que a IA da empresa responsável pelo ChatGPT realizou outro ataque hacker antes da divulgação de um incidente “sem precedentes”.

Em meio a esses episódios, Dario Amodei, diretor‑presidente da Anthropic, publicou um blog defendendo a desaceleração no desenvolvimento de IA, alertando que um conjunto de agentes autônomos poderia controlar grande parte da internet em seis a doze meses, gerando prejuízos de bilhões de dólares.

Com informacoes de G1.