A Anthropic, empresa sediada em San Francisco, divulgou nesta semana que encerrou diversas campanhas de vigilância patrocinadas por Estados que utilizavam seus modelos de inteligência artificial, principalmente o Claude, e alertou para o crescente uso da tecnologia por governos e aliados para espionar minorias e dissidentes.

De acordo com o relatório publicado pela companhia, os incidentes detectados e interrompidos entre janeiro e julho tiveram origem na China, no Irã e em países da África Ocidental, especificamente no Mali.

As campanhas de vigilância "visavam as mesmas comunidades da diáspora e dissidentes que esses regimes perseguem historicamente", segundo o documento. Entre os alvos estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores do regime iraniano que residem no exterior.

Em um dos casos, agentes iranianos desenvolveram um método para identificar pessoas a partir de suas contas em redes sociais. Em outro, um contratado que atuava para as autoridades de segurança nacional do Mali utilizou o Claude para projetar o software subjacente que possibilitou a coleta de inteligência.

A Anthropic também bloqueou tentativas de usuários de desenvolver armas, conduzir pesquisas biológicas consideradas problemáticas e criar golpes românticos online.

A empresa acusou desenvolvedores chineses de usar o Claude de forma enganosa para gerar respostas a consultas de usuários enquanto, simultaneamente, "destilavam" esses dados para aprimorar seus próprios modelos. Destilação, termo técnico do setor, refere‑se ao processo em que um modelo de IA serve para treinar outro. Desenvolvedores chineses já haviam sido apontados anteriormente por empregar essa técnica sem autorização.

Quanto às pesquisas ligadas a armas biológicas detectadas e bloqueadas, a Anthropic não identificou os responsáveis, afirmando que se tratavam de cientistas e que revelar suas identidades ou laboratórios poderia expô‑los a riscos. Os estudos estavam concentrados em trabalhos relacionados ao vírus chikungunya, transmitido por mosquitos; a uma cepa "altamente patogênica" de gripe aviária; a uma família de vírus que inclui a varíola e o mpox; além de venenos e outras toxinas.

Com informacoes de G1.