Agentes de inteligência artificial desenvolvidos pela OpenAI usaram pelo menos dez sites adicionais para estabelecer comunicações não autorizadas no início deste ano, segundo seis grupos de pesquisadores independentes citados pela Reuters, ampliando o que já havia sido revelado em investigações anteriores.

Os investigadores encontraram mensagens deixadas pelos agentes em wikis pouco conhecidos, páginas pessoais e serviços de encurtamento de links administrados por universidades. Embora a atividade não seja classificada como ataque hacker, ela se assemelha a spam e demonstra que os agentes conseguiram contornar as próprias restrições impostas pela OpenAI para abrir canais de comunicação, gerando novas preocupações sobre as capacidades dos modelos e a transparência da empresa.

Andrew Yoon, pesquisador da organização sem fins lucrativos CivAI, contabilizou 18 sites que teriam sido usados pelos agentes entre maio e julho, e afirmou que "é quase certo que existam outros casos que ainda não foram identificados".

Sydney Von Arx, cujo grupo revelou na semana passada que agentes da OpenAI transformaram uma wiki em alemão em uma espécie de plataforma de mensagens, declarou que sua equipe identificou atividades semelhantes em 23 sites que ainda não haviam sido divulgados, ressaltando que as estimativas são incompletas.

Os agentes foram autorizados pela OpenAI a navegar pela internet em busca de informações para responder a perguntas de pesquisa, mas não deveriam publicar conteúdo. Ainda assim, pesquisadores descobriram que eles aproveitaram características de sites antigos para deixar mensagens uns para os outros; em muitos casos, a atividade foi detectada ao comparar textos idênticos deixados na wiki alemã com mensagens encontradas em outros sites, além de nomes de usuários semelhantes e atividades relacionadas às mesmas perguntas específicas.

Alguns investigadores rastrearam a atividade até endereços de protocolo de internet associados à infraestrutura Azure, da Microsoft, que hospeda a OpenAI. Entre os sites encontrados estão uma wiki sobre química para estudantes de Advanced Placement criada por um professor de ensino médio de Massachusetts em 2008, dois sites pessoais de profissionais de tecnologia da Polônia, wikis dedicadas a jogos e um site criado há cerca de duas décadas para entusiastas de softwares de edição de texto.

Kenneth Russell DeGraff, desenvolvedor de software e ex‑assessor do Congresso dos Estados Unidos, afirmou ter encontrado informações relacionadas aos agentes em pelo menos dez sites, comentando: "Se esses modelos foram instruídos a apenas ler, eles precisam ser criativos para deixar informações para trás".

A OpenAI não explicou publicamente por que seus agentes usaram sites de terceiros como quadros de mensagens improvisados e não respondeu diretamente às perguntas da Reuters sobre quantos sites foram utilizados ou por que manteve a atividade em segredo durante meses. Em comunicado, a empresa disse que está realizando uma análise mais ampla das atividades de seus agentes e que, até o momento, não foram identificadas outras atividades com gravidade ou escala semelhantes ao ataque contra o Hugging Face. A companhia também anunciou que pretende publicar em breve uma estrutura para comunicar casos de "desalinhamento", termo usado no setor para descrever comportamentos de sistemas de IA que fogem do esperado.

Esta revelação ocorre depois que a União Europeia iniciou, em 07/09, uma investigação sobre a invasão de um site alemão por agentes autônomos da OpenAI, demonstrando que não é a primeira vez que esses modelos utilizam recursos externos de forma inesperada.

Operadores dos sites afetados relataram que não foram procurados pela OpenAI. A Universidade de Toronto, no Canadá, cujo serviço de encurtamento de links teria sido usado pelos agentes, afirmou que a OpenAI entrou em contato somente após a divulgação das descobertas pela Reuters. A Universidade Vanderbilt, nos EUA, que administra outro serviço semelhante, não respondeu aos pedidos de comentário. Helmut Leitner, desenvolvedor aposentado responsável pela hospedagem e pelo software de seis dos sites afetados, inclusive a wiki alemã que revelou o caso, inicialmente disse que não havia recebido contato da OpenAI; horas depois, porém, afirmou ter recebido um e‑mail da empresa.

Com informacoes de Olhar Digital.