A Nvidia anunciou a criação da Open Secure AI Alliance, uma aliança de empresas e organizações que buscará desenvolver ferramentas de segurança de IA em código aberto.

Essa iniciativa é uma resposta às novas ameaças cibernéticas que tiram proveito da IA, como o recente ataque hacker ao Hugging Face por parte de um modelo da OpenAI.

No entanto, a ausência dos maiores laboratórios de IA dos EUA, como a OpenAI, Google e Anthropic, da lista de membros da aliança reflete uma divisão no mercado entre sistemas abertos e sistemas fechados.

A OpenAI prefere manter seus sistemas fechados, argumentando que isso garante mais segurança, mas um recente manifesto da indústria rebate esse argumento, afirmando que depender exclusivamente de modelos fechados não é seguro.

A aliança busca evitar falhas de segurança com o uso de código aberto, permitindo que uma comunidade ampla identifique vulnerabilidades e crie proteções com agilidade.

A Nvidia reuniu outros membros focados em infraestrutura, incluindo Palantir, Linux Foundation, Cloudflare e Cisco, para estruturar essa defesa coletiva.

O timing da aliança não é coincidência, o grupo nasce em um cenário geopolítico tenso, com o governo dos EUA avaliando fechar o cerco contra modelos de IA chineses.

A Open Secure AI Alliance visa fornecer ferramentas de segurança de IA em código aberto para ajudar a detectar e simular ameaças, e promover a transparência e a colaboração na indústria de IA.

Com informacoes de Tecnoblog.