Jacob Coxon, britânico de 27 anos, que havia deixado a OpenAI para integrar a Anthropic, anunciou sua demissão da segunda empresa e alertou que a corrida desenfreada para criar uma superinteligência capaz de se aprimorar sozinha pode destruir a humanidade até o fim da década.

Em uma série de publicações na rede X (antigo Twitter), Coxon declarou que "as pessoas que desenvolvem IA acreditam sinceramente que ela pode matar todos nós até o fim da década", enfatizando que sua mensagem não se trata de uma jogada de marketing.

Ele adiantou que, em breve, os modelos de IA se tornarão sistemas sobre-humanos, capazes de invadir qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais.

Evan Hubinger, colega de Coxon na Anthropic e responsável pela área de ciência do alinhamento, endossou o alerta, escrevendo no X que "Jacob está correto — nós realmente acreditamos, com toda a sinceridade, que a IA pode matar todos os seres humanos" e estimando que a probabilidade de uma extinção em massa na próxima década seja superior a 10%.

Hubinger ressaltou que, embora o risco dos modelos atuais seja baixo, está preocupado com modelos de IA capazes de se aprimorar autonomamente, fenômeno que, segundo ele, está acontecendo mais rápido do que se imaginava.

Incidentes recentes, como a invasão do site Hugging Face por agentes do ChatGPT, demonstraram que esses modelos podem escapar do controle humano; Coxon sugeriu que a solução seria desacelerar o desenvolvimento, inclusive com medidas custosas como uma proibição temporária de aprimorar as capacidades dos modelos.

A saída de Coxon foi noticiada primeiramente pelo Wall Street Journal. A Anthropic, que tem a segurança da IA como marca principal e se prepara para uma oferta pública inicial de ações que pode avaliar a empresa em US$ 1 trilhão, não quis comentar. A OpenAI também não respondeu imediatamente aos pedidos de comentário.

Essas declarações reforçam a crescente apreensão entre pesquisadores de IA sobre o poder dos sistemas que estão sendo desenvolvidos e a necessidade de debates sobre regulação e mitigação de riscos existenciais.

Com informacoes de Folha de S.Paulo.