Anthropic divulgou que o modelo Claude já lidera 26% do trabalho de pesquisa e desenvolvimento da empresa para criar novos modelos de IA, índice que subiu de 1% em março, conforme apurado pela Reuters.

Em agosto, mais de 90% das pesquisas da Anthropic envolveram colaboração entre humanos e IA, embora a empresa ressalte que Claude ainda não opera de forma totalmente autônoma em nenhuma das atividades avaliadas.

O percentual de 26% considera tarefas nas quais Claude consegue conduzir a maior parte do trabalho a partir de uma orientação geral, enquanto humanos supervisionam o processo. A metodologia foi desenvolvida com base em um sistema de classificação da Epoch AI e os resultados foram posteriormente verificados por pessoas.

“Modelos que aceleram o próprio desenvolvimento podem tornar mais desafiador para os humanos entenderem ou controlarem esses sistemas”, afirmou a Anthropic.

Aproximadamente 30 mil agentes de IA realizavam tarefas de pesquisa e engenharia na principal plataforma interna da Anthropic em agosto; cada ação passou por verificação antes de ser executada. Os agentes tomaram mais de 1 bilhão de decisões ao longo do mês, e aproximadamente uma em cada 47 mil foi bloqueada, embora a empresa não tenha detalhado quais tipos de decisões foram barradas.

A segurança também representa parcela do esforço computacional da Anthropic. Em uma semana de julho, 6% da capacidade usada em pesquisa e desenvolvimento foi destinada a esse tipo de trabalho; quando consideradas apenas as pesquisas realizadas pela própria IA, o índice chegou a 12%. A empresa considera os números conservadores, pois tarefas que contribuíam tanto para o desenvolvimento de capacidades quanto para a segurança foram contabilizadas como trabalho de capacidade.

O avanço da IA no desenvolvimento de novos modelos alimenta o debate sobre o chamado “autoaperfeiçoamento recursivo”, cenário em que sistemas poderiam melhorar versões futuras de si mesmos com participação humana cada vez menor. Anthropic não informou quão próxima considera estar dessa situação.

A empresa pretende divulgar essas métricas regularmente para mostrar ao público, a terceiros e aos governos o ritmo de desenvolvimento da IA dentro de laboratórios que trabalham com modelos avançados. Como já mostramos em nossa cobertura sobre bloqueios de IA para vigilância e tentativas de criação de armas biológicas, Anthropic tem mantido uma postura ativa em segurança.

Pesquisadores usam Claude para tentar invadir a OpenAI e acessar seu sistema de código interno, enquanto a OpenAI anunciou que também passará a publicar relatórios regulares sobre comportamentos inesperados ou não autorizados de seus sistemas, reforçando a tendência de transparência que Anthropic defende.

“Qualquer desenvolvedor de fronteira poderia publicar essas medidas regularmente, usando uma metodologia pública”, declarou a Anthropic, reforçando a proposta de maior transparência no setor.

Com informacoes de Olhar Digital.