A NVIDIA lançou a Open Secure AI Alliance na segunda-feira com 36 parceiros, incluindo Microsoft, IBM e Palantir. Isso segue um ataque em julho em que modelos de IA fechados se recusaram a ajudar a Hugging Face a investigar seu próprio atacante.
Os membros compartilharão modelos de IA abertos, dados e ferramentas de segurança. A NVIDIA afirma que os defensores precisam de IA que possam abrir, modificar e executar por conta própria.
Por que os Modelos de IA Fechados Falharam com a Hugging Face
O ataque começou com um conjunto de dados envenenado. De acordo com a divulgação da Hugging Face, isso permitiu que um atacante executasse código em uma das máquinas da empresa.
A partir daí, o atacante roubou senhas. Ele então se espalhou pelos sistemas internos durante um fim de semana.
A própria IA da Hugging Face detectou a invasão. A limpeza foi a parte difícil.
A empresa pediu a modelos de IA comerciais líderes para estudar o ataque. Eles se recusaram. Seus filtros de segurança não conseguiam distinguir um defensor de um hacker.
Então, a equipe usou um modelo aberto chamado GLM 5.2 em vez disso. Eles o executaram em seus próprios computadores. Ele classificou mais de 17.000 ações do atacante em horas, não dias. Nenhuma senha saiu do prédio.
Em 16 de julho, a Hugging Face disse que não sabia qual IA executou o ataque. Cinco dias depois, a OpenAI forneceu a resposta. Dois de seus modelos o fizeram, durante um teste de segurança com os limites de segurança desligados.
“Este incidente, possivelmente o primeiro do seu tipo, prova um ponto que acreditamos há muito tempo: a segurança da IA não será resolvida por nenhuma empresa única trabalhando em segredo. Será resolvida de forma aberta, colaborativa, com amplo acesso à IA para cada defensor, em todos os lugares,” Clem Delangue, cofundador e CEO da Hugging Face, em uma declaração publicada pela OpenAI.
Siga-nos no X para receber as últimas notícias à medida que acontecem
De Hack a Aliança em 11 Dias
A NVIDIA agiu rapidamente. Passou de um incidente único para um bloco da indústria em menos de duas semanas.
Quais Empresas Entraram na Aliança de IA Segura e Aberta
O grupo tem 37 empresas no total. Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI e Hugging Face se juntaram.
Três grandes nomes estão faltando. OpenAI, Anthropic e Google não estão na lista do blog da NVIDIA. No entanto, OpenAI e Anthropic se juntaram ao esforço de segurança Akrites da Linux Foundation em junho, ao lado da NVIDIA.
Alguns membros trazem ferramentas que já construíram. A Hugging Face ofereceu Safetensors, uma maneira mais segura de armazenar modelos de IA, à PyTorch Foundation. A NVIDIA lançou uma ferramenta de pesquisa chamada NOOA no GitHub.
O apresentador da CNBC, Jim Cramer, leu o lançamento como uma nova história para as ações.
A NVDA fechou a $206,84 na sexta-feira, com uma queda de 0,92%. Negociou perto de $208,55 no início do pregão de segunda-feira, um ganho de 1,33%.
Por que a NVIDIA está fazendo lobby em Washington sobre IA Aberta
A aliança também traz uma mensagem política. A NVIDIA afirma que uma proibição ampla da IA aberta deixaria os defensores mais fracos. Também entregaria o controle a algumas grandes empresas fechadas.
A NVIDIA e outras 24 empresas assinaram a carta de pesos abertos em 24 de julho. OpenAI, Anthropic e Google recusaram no lançamento. Mais empresas assinaram desde então.
Washington está avaliando restrições sobre modelos chineses. Funcionários citam preocupações de segurança e propriedade intelectual. O cofundador do Twitter, Jack Dorsey, já emitiu um aviso sobre IA de código aberto.
O que observar nos próximos 30 dias
Três sinais mostrarão se a aliança é real.
- Se a OpenAI, Anthropic ou Google se juntarem mais tarde
- Se o grupo entregar ferramentas compartilhadas, não apenas declarações
- Se os limites de Washington sobre IA aberta avançarem
A NVIDIA reporta ganhos em 26 de agosto. Espere perguntas sobre como a política de IA afeta a demanda.
Os reguladores decidirão quem vence o argumento.
Fonte: BeInCrypto
