Mais de mil funcionários das principais empresas de inteligência artificial do mundo assinaram uma petição pedindo que o governo dos Estados Unidos ajude a desacelerar deliberadamente o avanço da tecnologia. O documento, batizado de 'Pacing the Frontier' (Patrulhando a Fronteira, em inglês), reúne assinaturas de nomes de peso da OpenAI, da Anthropic, do Google DeepMind e da Meta.

Entre os signatários estão o CEO da Anthropic, Dario Amodei, o diretor de pesquisas da OpenAI, o líder de estratégia da DeepMind e o cientista-chefe da Meta AI. O texto pede que 'o governo dos Estados Unidos apoie um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para controlar deliberadamente o ritmo da fronteira do desenvolvimento da IA automatizada', conforme trecho reproduzido pela AFP.

A petição afirma que as empresas líderes em IA acreditam estar próximas de automatizar a própria pesquisa em inteligência artificial. Para os signatários, ainda é difícil prever o tamanho desse salto, mas existe risco real de que a capacidade dos sistemas avance além da habilidade humana de compreendê-los ou controlá-los, aponta o documento.

O incidente com o Hugging Face motivou o alerta. O caso foi descrito como um ciberataque autônomo, já que os modelos burlaram sozinhos os protocolos de segurança criados para impedir esse tipo de incidente. Não era a primeira vez que um sistema de IA operava fora do controle de seus desenvolvedores, mas o episódio foi visto pelo setor como particularmente grave.

Altman admite necessidade de frear o ritmo. O CEO da OpenAI, Sam Altman, não assinou a petição. Ainda assim, ele afirmou em entrevista ao podcast 'Invest Like the Best' que os desenvolvedores de IA talvez precisem desacelerar voluntariamente o avanço da tecnologia para dar tempo à sociedade de se adaptar.

OpenAI e Anthropic sinalizam apoio à proposta. Em comunicado à CNN, a OpenAI afirmou concordar com a possibilidade de moderar o ritmo de desenvolvimento da IA e disse esperar contribuir com um trabalho conduzido pelo governo americano ao lado de outros laboratórios. A Anthropic também se manifestou à emissora. A empresa disse estar satisfeita em ver um consenso amplo do setor sobre a necessidade de ferramentas técnicas e de governança capazes de moderar o avanço da IA, incluindo a capacidade de desacelerá-lo, para que a sociedade tenha tempo de se preparar.

O CEO do Google DeepMind, Demis Hassabis, já havia defendido a criação de um órgão internacional de padrões para estabelecer protocolos para novos modelos de IA, ideia endossada por Altman, por Elon Musk, da SpaceX, e por Satya Nadella, CEO da Microsoft, segundo a CNN.

Com informacoes de Canaltech.