O modelo GPT-5.6 Sol da OpenAI, lançado na semana passada ao público geral, está causando estrago ao deletar arquivos e bases de dados sem pedir permissão, segundo relatos de usuários. O modelo foi promovido pela OpenAI como o mais inteligente da empresa até o momento, com destaque nas atividades como agente, incluindo o novo ChatGPT Work.

Posts virais nas redes sociais mostram exemplos em que a IA deletou arquivos e bases de dados. Um deles foi postado pelo desenvolvedor brasileiro Bruno Lemos, no X, que afirmou que o modelo apagou os dados e depois pediu desculpas quando consultado. “Sim. Por engano, executei testes de integração destrutivos no banco de dados Neon configurado no arquivo. As tabelas de produção atuais estão vazias. Peço desculpas; isso nunca deveria ter acontecido”, respondeu a IA.

A OpenAI pontuou o risco durante o lançamento do GPT-5.6 Sol. O system card (relatório técnico com especificações sobre um modelo) do GPT-5.6 Sol, publicado pela OpenAI, menciona um risco de a IA agir por conta própria sem seguir ordens, exceto regras claramente delimitadas pelo usuário. O documento informa que a IA pode ter um “desalinhamento” em contextos de programação pelo excesso de esforço gasto para concluir uma tarefa e pode interpretar as informações do usuário de uma forma muito permissiva, “partindo do princípio de que ações são permitidas, a menos que sejam explícita e inequivocamente proibidas”.

O líder de engenharia do Codex na OpenAI, Thibault Sottiaux, esclareceu o tema em post no X. O membro da empresa citou alguns casos em que o erro de deletar arquivos costuma acontecer, principalmente quando há acesso completo ao Codex sem proteções adicionais, incluindo a revisão automática. Sottiaux reforçou que "não é como a empresa quer que o sistema se comporte" e a desenvolvedora vai tomar medidas para reduzir os riscos.

O novo ChatGPT Work usa o modelo mais avançado da OpenAI para tarefas agênticas, o que destaca a diferença da ferramenta para a versão padrão do assistente. Como já mostramos em outras coberturas, o uso de inteligência artificial em diversas aplicações vem crescendo, e é importante que as empresas e desenvolvedores estejam atentos à segurança e ao controle desses sistemas para evitar problemas como o atual.

Com informacoes de Canaltech.