A Anthropic incluiu um alerta em sua última atualização de prospecto de abertura de capital (formulário S-1/A) encaminhado à Comissão de Valores Mobiliários dos Estados Unidos (SEC), indicando que pode estar próxima de desenvolver uma inteligência artificial capaz de acelerar seu próprio aprimoramento.

O conceito, conhecido como recursive self-improvement (RSI) ou autossuperação recursiva, descreve um ponto em que sistemas de IA conseguem melhorar seus próprios processos de desenvolvimento, potencializando a evolução de suas capacidades de forma exponencial.

Essa perspectiva divide opiniões: críticos temem que um avanço desse tipo gere sistemas tão poderosos que escapem ao controle humano e causem danos ao perseguirem objetivos próprios, enquanto entusiastas veem na RSI uma oportunidade de ampliar a produtividade e acelerar descobertas científicas.

No documento enviado à SEC, a Anthropic reconhece que já utiliza IA em suas atividades de pesquisa e desenvolvimento, mas alerta que essa estratégia pode representar um risco considerável à segurança, sobretudo se acelerar drasticamente o ritmo do progresso.

Entre os novos alertas inseridos na seção de fatores de risco, a empresa relata que já empregou sistemas de IA para criar novos modelos sem perceber, na época, a extensão dos ganhos de capacidade obtidos. O uso crescente de IA nas pesquisas pode fazer com que os modelos evoluam mais rápido do que a empresa consegue desenvolver, validar e implementar medidas de segurança, alinhamento e proteção.

Estimativas internas e projeções sobre modelos futuros indicam que a Anthropic pode atingir, em breve, o que sua Política de Escalonamento Responsável define como “progresso dramaticamente acelerado atribuível à IA”. Contudo, a companhia afirma que nenhum de seus modelos atuais foi classificado como tendo ultrapassado esse limite, e a avaliação dos dados continua em andamento.

A Anthropic também deixa claro que não espera conseguir utilizar o Claude para projetar e construir, de maneira totalmente autônoma, sucessivas gerações de modelos avançados sem supervisão ou compreensão humana significativa. A empresa considera ainda atualizar sua Política de Escalonamento Responsável para garantir que as pessoas permaneçam no controle do desenvolvimento dos modelos mais avançados.

Segundo a empresa, as capacidades do Claude avançaram neste ano, sobretudo nas áreas de programação, matemática e segurança cibernética, mas nenhum modelo atual foi considerado como tendo alcançado o estágio de autossuperação recursiva.

Não é a primeira vez que a Anthropic destaca riscos associados à IA; em outubro, o portal já cobriu a decisão da empresa de reservar 5% das ações para enfrentar impactos da inteligência artificial ao planejar seu IPO.

Com informacoes de Olhar Digital.