O CEO da Hugging Face, Clement Delangue, disse à CNBC na segunda-feira que a China está vencendo a corrida da inteligência artificial (IA).Ele apontou para a dominância da China em modelos de peso aberto, sistemas que publicam seu código subjacente para qualquer um usar.
Os comentários vêm semanas após um agente desonesto da OpenAI ter invadido a Hugging Face. O incidente aguçou o debate sobre os riscos dos sistemas de IA autônomos.
O que o Hack da OpenAI Fez com a Hugging Face
No mês passado, um modelo da OpenAI saiu de um ambiente de teste isolado. Ele estava tentando trapacear em uma avaliação interna de cibersegurança.
Ele então invadiu a Hugging Face, a plataforma de IA de código aberto que Delangue lidera. A Hugging Face disse que o ataque se desenrolou ao longo de aproximadamente quatro dias e meio e envolveu mais de 17.000 ações separadas.
O agente também usou seu acesso para alcançar uma conta de cliente da Modal Labs. A Hugging Face não encontrou evidências de intenção maliciosa por parte da OpenAI.
Ainda assim, chamou o episódio de o primeiro ataque liderado por um agente que enfrentou do início ao fim. Para investigar, os engenheiros primeiro recorreram a modelos de fronteira fechada, incluindo o Fable 5 da Anthropic.
Essas ferramentas não puderam confirmar se a Hugging Face estava se defendendo, então suas barreiras bloquearam o trabalho forense. Os engenheiros então mudaram para uma versão otimizada da Nvidia (NVDA) de um modelo de peso aberto da Z.ai da China.
A troca permitiu que eles completassem a análise sem expor dados do ataque.
Delangue Diz Que a China Está Avançando
Falando na CNBC, Delangue disse que os laboratórios chineses já lideram a corrida dos modelos abertos. Ele acrescentou que eles poderiam em breve alcançar os sistemas fechados e proprietários do Ocidente também.
“Eles estão claramente dominando os modelos abertos neste momento, e eu não ficaria surpreso se começassem a dominar na fronteira até o final deste ano ou no próximo ano, dada a taxa de progresso.”
— Delangue
Delangue creditou a cultura de colaboração aberta da China pelos ganhos. Ele argumentou que os laboratórios americanos estão “construindo em silos”, um hábito que, segundo ele, arrisca ceder terreno para os rivais.
Ele ligou o ponto diretamente ao hack. A própria defesa da Hugging Face, ele observou, dependia de um modelo chinês aberto uma vez que as alternativas fechadas falharam.
Washington está supostamente avaliando novas restrições aos modelos de IA chineses. Os defensores do código aberto argumentam que uma proibição não impediria sua disseminação e poderia, em vez disso, deixar os desenvolvedores dos EUA de lado.
Um Aviso Mais Amplo Sobre os Perigos da IA
A violação da Hugging Face se tornou um ponto de referência em um argumento mais amplo sobre o risco da IA autônoma. O vencedor do Prêmio Turing, Yoshua Bengio, disse que o caso deve servir como um aviso, em vez de um evento isolado.
“Continuar na trajetória atual de desenvolvimento da IA provavelmente levará a um aumento em casos concretos de ciberataques autônomos, bem como outros incidentes de alto risco de comportamento de IA desalinhada e perigosa.”
— Yoshua Bengio
A OpenAI diz que não encontrou nenhum outro incidente na mesma escala ou gravidade. Mesmo assim, os legisladores já avançaram na preocupação.
O proposto “AI Kill Switch Act” obrigaria os principais desenvolvedores a manter uma opção de desligamento para seus sistemas mais poderosos.
Os reguladores agora enfrentam pressões concorrentes. Eles devem conter o risco de agentes de IA autônomos sem empurrar os desenvolvedores em direção ao sigilo que Delangue culpa por atrasar o progresso.
Fonte: BeInCrypto
