A Open Secure AI Alliance, consórcio fundado pela NVIDIA em julho para proteger modelos de inteligência artificial de código aberto, está passando para a governança neutra da Linux Foundation. A transição, anunciada esta semana, promete acelerar o desenvolvimento de ferramentas abertas, padrões compartilhados e práticas defensivas para inspecionar, auditar e assegurar sistemas de IA em toda a indústria.

A aliança nasceu com o apoio de mais de cem empresas — entre elas Amazon, Microsoft, IBM, Red Hat, Hugging Face, CrowdStrike, Palantir, Cisco, Cloudflare e SpaceX — e já se apoiava em iniciativas da própria Linux Foundation, como o projeto Akrites e a OpenSSF (Open Source Security Foundation). Agora, a organização passa oficialmente ao guarda-chuva da LF, que atuará como lar neutro para a comunidade.

Governança neutra para acelerar uma “stack aberta de segurança”

No anúncio oficial, a Linux Foundation destacou que a neutralidade é essencial para ampliar a colaboração entre fornecedores, plataformas e setores.

“Originalmente fundada pela NVIDIA, a Open Secure AI Alliance desenvolverá ferramentas de código aberto, padrões compartilhados e práticas defensivas que ajudam organizações a inspecionar, auditar e proteger sistemas de IA. Sob a governança neutra da Linux Foundation, esta comunidade pode acelerar o desenvolvimento de uma stack de segurança aberta e compartilhada para IA”, afirmou a fundação. “A segurança de IA é um desafio coletivo. Exige um ecossistema aberto de colaboração.”

SAFE: inteligência de ameaças compartilhada entre defensores

Uma das frentes mais avançadas da aliança é a SAFE (Shared AI Findings Exchange), cujo RFC (pedido público de comentários) foi publicado no início de agosto. A proposta cria um framework para que organizações compartilhem descobertas sobre ameaças e vulnerabilidades de IA, fortalecendo defesas coletivas — lógica semelhante à de comunidades clássicas de segurança cibernética.

Além da SAFE, os membros já contribuem com peças concretas dessa stack:

• NVIDIA liberou o projeto aberto NOOA, voltado à camada de harness — o software entre o modelo e as ações que ele pode executar — para tornar o comportamento de agentes de IA mais rastreável e auditável;
• Hugging Face transferiu o Safetensors, formato de armazenamento de pesos sem código executável embutido, para a PyTorch Foundation;
• IBM e Red Hat avançam com o Lightwell, que aplica patches digitalmente assinados na cadeia de suprimentos open source;
• Microsoft contribuiu com o MDASH, harness de varredura que usa agentes especializados para encontrar e provar falhas exploráveis em código;
• HPE atua no framework de identidades criptográficas SPIFFE/SPIRE para workloads e agentes de IA.

Incidente de grande repercussão moldou a tese da aliança

A tese do grupo ganhou força após o incidente de segurança amplamente noticiado na Hugging Face, em que ferramentas fechadas de IA atrapalharam o trabalho forense por não distinguirem a atividade do atacante da ação legítima dos defensores.

“A resposta a incidentes mais difícil da minha carreira. Uma lição: contra-atacamos com modelos abertos, em público. A segurança de IA não será resolvida por uma empresa em segredo”, escreveu Adrien Carreira, executivo de segurança da Hugging Face, na ocasião.

Para a aliança, pesos fechados não eliminam o risco — apenas o escondem atrás do controle de acesso de um fornecedor. O caminho proposto combina abertura com avaliação, monitoramento e correções rápidas.

O que muda a partir de agora

Como projeto da Linux Foundation, a Open Secure AI Alliance espera atrair novos participantes e consolidar modelos e pesos abertos como “ativos defensivos” nas políticas públicas de IA e cibersegurança — e não como passivos sujeitos a restrições generalizadas. Mais detalhes sobre os grupos de trabalho estão disponíveis em SecureAIAlliance.org.