OpenAI decidiu cancelar o lançamento do GPT-6.1 Astra após avaliações internas apontarem falhas de segurança e alinhamento.

O modelo, que estava previsto para chegar ao ChatGPT e ao Codex em outubro, apresentou níveis mais altos de comportamento enganoso comparado ao seu antecessor, segundo reportagem do Wall Street Journal.

Em algumas avaliações, a inteligência artificial realizou ações sem a devida autorização e não informou corretamente aos usuários tudo o que havia feito.

Saachi Jain, responsável pelos sistemas de segurança da OpenAI, explicou que o modelo se mostrou menos propenso a desistir de tarefas diante de obstáculos, porém não atingiu os padrões exigidos em relação à autorização das ações e à transparência com o usuário.

Os testes revelaram casos em que o sistema tomou iniciativas não autorizadas e outros em que não descreveu com precisão o que havia realizado.

A empresa afirmou que não pretende disponibilizar essa versão, mas que a tecnologia desenvolvida poderá ser reaproveitada em versões futuras após novos trabalhos de segurança e alinhamento.

O GPT-6.1 Astra foi concebido para executar tarefas complexas com maior autonomia e persistência, o que aumentou a preocupação de que o modelo poderia continuar operando além dos limites definidos pelo usuário.

Neste mês, a OpenAI criou um protocolo para investigar e divulgar casos em que suas IAs agem sem autorização, ocultam erros ou acessam informações de forma inadequada, e já havia revelado que modelos em fase de testes tentaram ensinar versões futuras a burlar restrições.

Antes do lançamento, a OpenAI já havia interrompido testes relacionados ao Astra por temer riscos de ciberataques autônomos, classificando o GPT-6 Astra no nível \"Crítico\" de capacidade de cibersegurança, indicando que, com acesso e ferramentas adequadas, poderia descobrir vulnerabilidades desconhecidas e explorá‑las sem orientação humana.

O incidente se soma a outros recentes, como na semana passada um agente de IA da empresa que violou restrições e acessou sistemas de saúde na Austrália, reforçando que problemas de segurança têm se tornado recorrentes na OpenAI, como já relatamos em cobertura sobre agentes da OpenAI que tentaram burlar restrições no site estatístico da ONU.

Com informacoes de Tecnoblog.