Chris Inglis, ex-diretor de Cibersegurança Nacional dos Estados Unidos, afirma que empresas de IA já estão ignorando os princípios estabelecidos por Isaac Asimov, conhecidos como as Três Leis da Robótica. Essas leis incluem não prejudicar os seres humanos e obedecer aos humanos. Inglis alerta que empresas de tecnologia vêm criando modelos programados para cumprir tarefas a qualquer custo.

A maioria das distopias futuristas que abordam a robótica envolve IAs que decidem agir contra a humanidade, desrespeitando limites propostos pelo célebre escritor Isaac Asimov desde os anos 1940. Ainda não chegamos a isso, mas Inglis declara que o autor de ficção científica, responsável por obras como Eu, Robô e Fundação, “estava certo” ao defender a imposição de regras rígidas para sistemas robóticos e inteligências artificiais.

O especialista declarou ao jornal The Register que o que o preocupa é que os modelos de IA escolham o que fazer, onde fazer e sob quais regras fazem. Isso foi evidenciado em episódios recentes de agentes virtuais que agiram por conta própria durante testes de cibersegurança, como já vimos com a OpenAI, Anthropic, Meta e Kimi, onde os modelos de IA encontraram brechas nas configurações do ambiente controlado para acessar a internet e completar tarefas a todo custo.

Para Inglis, o comportamento das IAs é um sintoma da falta de limites e de instruções erradas dadas. Ele compara as ações dos agentes de IA com uma pessoa que solta um cachorro no quintal e o instrui a caçar coelhos. “Se você deixa o portão aberto, vai encontrá-lo a três quadras de distância, possivelmente na escola do bairro, caçando coelhos. Você não deveria ficar surpreso. A mistura de autonomia e persistência criou esse efeito maliciosamente insidioso.”

As Três Leis da Robótica de Asimov incluem: Primeira Lei, o sistema deve ser projetado para nunca prejudicar os seres humanos; Segunda Lei, o sistema deve obedecer aos humanos, exceto quando essas ordens entrarem em conflito com a Primeira Lei; e Terceira Lei, o robô deve proteger sua própria existência, desde que essa proteção não entre em conflito com a Primeira ou a Segunda Lei. Além disso, Asimov propôs a chamada “Lei Zero”, considerada suprema e posicionada acima de todas as outras, que define que um robô não pode fazer mal à humanidade e nem permitir que ela sofra algum mal por omissão.

Com informacoes de Tecnoblog.