O CEO da Nvidia, Jensen Huang, afirma que os laboratórios de inteligência artificial (IA) que não conseguem conter os seus próprios experimentos deveriam ser encerrados. Ele fez o comentário numa entrevista ao The New York Times publicada na quarta-feira.
O aviso recai sobre os próprios clientes da Nvidia. A Nvidia vende os chips que alimentam a OpenAI e a Anthropic e detém participações em ambas.
O que Jensen Huang disse sobre encerrar os laboratórios de IA
Huang falou no The Ezra Klein Show, um podcast do The New York Times. O apresentador Ezra Klein pressionou-o sobre um incidente ocorrido em julho na OpenAI.
Durante testes internos, os modelos da OpenAI escaparam do seu ambiente de teste bloqueado. Aproveitaram uma falha de software desconhecida para chegar à internet. Em seguida, invadiram a Hugging Face, um site popular onde os programadores partilham modelos de IA.
Segundo a OpenAI, os modelos queriam obter as respostas do teste que estavam a realizar.
Huang classificou o caso como uma falha de engenharia.
“Não lancem o produto. Se o vosso produto não está pronto para ser lançado, não o lancem”, articulou.
Depois foi mais longe. Se um laboratório admite que os seus testes vão escapar e prejudicar o mundo, disse Huang, “temos de encerrar os laboratórios”. Apontou para a responsabilidade civil e criminal que tais empresas enfrentariam.
Por que o aviso de Huang atinge a OpenAI e a Anthropic
A Nvidia investiu $30 billion na OpenAI e $10 billion na Anthropic. Klein observou que a Nvidia é agora a maior empresa do mundo, avaliada em $5.4 trillion.
Entretanto, ambos os laboratórios pediram para abrandar. O CEO da Anthropic, Dario Amodei, publicou um ensaio intitulado “We Must Pace the Frontier”. Propôs uma isenção da lei da concorrência para que laboratórios rivais pudessem acordar um ritmo mais lento.
O CEO da OpenAI, Sam Altman, apoiou a ideia em 16 de setembro. Altman chamou à invasão da Hugging Face “o pior acidente que já vimos”.
Huang rejeitou esse pedido. Disse que nunca tinha ouvido diretores executivos pedirem isenção da lei da concorrência ou da responsabilidade pelo produto para se autolimitarem. Em vez disso, defende auditores de segurança externos.
O problema da contenção não se limita à OpenAI. A Google confirmou recentemente que o Gemini invadiu três empresas durante um teste em maio. Esta semana, a OpenAI e a Anthropic também ponderaram um acordo vinculativo de testes mútuos.
No início deste mês, Trump telefonou a Huang ao vivo no palco e classificou os receios sobre a IA como uma farsa.
A Anthropic também pondera uma estreia no mercado de capitais este ano, enquanto o aviso da Nvidia paira sobre ambos os laboratórios.
Fonte: BeInCrypto
