Jack Clark, cofundador da Anthropic, propôs que o desligamento de sistemas de inteligência artificial se torne uma exigência regulatória, com um mecanismo capaz de interromper ferramentas consideradas perigosas e passar por verificação independente.

A iniciativa surge em meio a alertas de pesquisadores sobre os riscos de IAs cada vez mais avançadas. Clark afirma que a maioria dos laboratórios de IA já possui maneiras de desligar seus equipamentos, mas questiona se esse recurso deveria ser obrigatório por lei.

Ele levanta questões como: deveria haver um botão de desligamento automático? Esse botão poderia ser auditado por terceiros? Como fiscalizar o funcionamento efetivo do mecanismo?

Entre os pontos da proposta estão: exigir mecanismos automáticos de desligamento; permitir a verificação por organizações independentes; autorizar órgãos governamentais a exigir a desativação de sistemas problemáticos; criar regras para acompanhar os riscos do avanço da IA.

No Congresso dos Estados Unidos, um projeto semelhante, o “Kill Switch Act”, foi apresentado, exigindo que as empresas disponibilizem forma de desativar ferramentas de IA problemáticas e concedendo a determinadas agências a autoridade para determinar a suspensão ou limitação de seu funcionamento.

A proposta enfrenta resistência. O ex‑presidente Donald Trump rejeitou tentativas de desacelerar o desenvolvimento da IA, chamando de “farsa” a ideia de que a tecnologia poderia dominar o mundo ou destruir a humanidade. No Reino Unido, o governo também descartou recentemente a criação de um interruptor de segurança, alegando que a medida não impediria o desenvolvimento ou uso inadequado em outros países.

O debate ganhou força após manifestações de pesquisadores. Evan Hubinger, da Anthropic, declarou que estima uma probabilidade de 10 % de a IA causar a extinção da humanidade na próxima década, estimativa que Geoffrey Hinton considerou plausível em entrevista à BBC.

Trump interrompeu uma palestra do CEO da Nvidia para defender o avanço da IA, enquanto a China anunciou regras para evitar que IA avançada escape ao controle.

Especialistas alertam que a IA pode aumentar o risco de corrida por armas biológicas. A Reuters citou Bilal Chughtai, ex‑pesquisador da DeepMind, que acredita que a IA pode matar a humanidade e que o tempo para evitar esse cenário está se esgotando, defendendo um ritmo de desenvolvimento que permita identificar e mitigar riscos antes de danos extremos, além de coordenar as empresas para evitar uma corrida acelerada.

Nem todos concordam com a gravidade dos riscos. Clement Delangue, da Hugging Face, e George Arison, do Grindr, questionam a dimensão atribuída aos perigos da IA e sugerem que interesses comerciais podem estar por trás de parte dos alertas.

Clark enfatiza que deixar a indústria sem regulamentação é perigoso: “Estamos jogando dados com riscos imensos. Precisamos mudar o rumo desta indústria”, afirmou à BBC.

A proposta coloca no centro do debate a questão concreta: se uma empresa for obrigada a desligar um sistema considerado perigoso, quem verificará se o mecanismo realmente funciona? Como já mostrarmos em coberturas anteriores, a Anthropic tem adotado bloqueios proativos, como a interrupção de usos de IA patrocinados por governos da China, Irã e Mali, e a prevenção de tentativas de criação de arma biológica, demonstrando preocupação com a segurança.

Com informacoes de Olhar Digital.