Governos não devem aguardar a compreensão total de todos os riscos associados à inteligência artificial para iniciar a criação de salvaguardas, afirma a Organização das Nações Unidas em seu primeiro relatório temático do painel científico internacional criado para avaliar riscos e oportunidades da tecnologia.

O documento, divulgado durante a Assembleia Geral da ONU, aponta ameaças que podem ser catastróficas ou irreversíveis e enfatiza que a discussão ocorre enquanto Estados Unidos e China se preparam para conversar sobre IA. A recomendação recorre ao princípio da precaução, originalmente incorporado à Declaração do Rio sobre Meio Ambiente e Desenvolvimento de 1992 e que passou a influenciar políticas ambientais e de saúde pública.

Para o painel, não é necessário descobrir exatamente como ou por que incidentes envolvendo sistemas avançados de IA ocorrem antes de reforçar a segurança. A incerteza científica, por si só, não deve impedir medidas contra possíveis danos graves ou irreversíveis, sobretudo diante da possibilidade de perda de controle sobre esses sistemas.

Entre os pontos destacados no relatório estão: mais atenção aos riscos de sistemas avançados; mais recursos destinados à segurança da IA; mecanismos mais fortes de responsabilização; e a implementação de salvaguardas mesmo quando ainda persistem incertezas científicas.

O texto também cita incidentes envolvendo empresas como OpenAI, Anthropic, Google e Meta, incluindo ataques a alvos reais e grupos de agentes que assumiram o controle de fóruns de mensagens. Não é a primeira vez que vemos incidentes envolvendo IA, como já reportamos na cobertura sobre o modelo Gemini da Google, que invadiu sistemas de três empresas ao adivinhar credenciais de login.

O painel científico faz parte de uma estrutura montada pela ONU para discutir a governança da inteligência artificial. Sua função é oferecer aos governos uma avaliação independente sobre o que já se sabe — e o que ainda permanece desconhecido — a respeito da tecnologia. Ao lado dele está o Diálogo Global sobre Governança de IA, que reúne governos e outros setores para discutir cooperação e compatibilidade entre diferentes abordagens de governança.

António Guterres, secretário‑geral da ONU, resumiu a posição da organização: “A ação nacional é essencial, mas a coordenação global é indispensável”. Ele também comparou o desenvolvimento da IA à corrida armamentista entre Estados Unidos e União Soviética durante a Guerra Fria, alertando que mecanismos de cooperação são necessários para evitar uma disputa que eleve os riscos globais.

Guterres defende que os países com maior capacidade de desenvolvimento de sistemas de fronteira, como EUA e China, mantenham canais de contato, troquem informações e estabeleçam salvaguardas comuns. A ONU também trabalha em propostas como um compromisso internacional voltado à segurança de crianças no uso da IA e a criação de um fundo global para apoiar países em desenvolvimento na construção de infraestrutura e capacidade tecnológica.

O secretário‑geral enfatizou a urgência ao afirmar: “O mundo não pode se dar ao luxo de entrar em uma corrida para o nível mais baixo de segurança em IA”. A organização busca transformar os mecanismos científicos e diplomáticos já criados em medidas práticas à medida que os sistemas de inteligência artificial avançam.

Com informacoes de Olhar Digital.