O CEO da Anthropic, Dario Amodei, disse ao Conselho de Segurança das Nações Unidas (ONU) que a IA pode representar um risco para a humanidade. Sam Altman, da OpenAI, e Clément Delangue, da Hugging Face, juntaram-se a ele no apelo a uma coordenação global da IA.
A França convocou a sessão durante a Assembleia Geral da ONU, colocando os principais executivos do setor diante do conselho de 15 membros. Os governos continuam divididos sobre como regular a IA, um setor que avança mais depressa do que a maioria das normas.
Ponderar o risco da IA para a humanidade
Amodei disse ao conselho que gerir os riscos da IA exige uma ação coordenada de todos os governos e empresas envolvidos.
“A IA pode ser um risco para a humanidade como um todo.”
Dario Amodei, via Reuters
Há anos que alerta para os riscos da cibersegurança impulsionada pela IA e das armas biológicas. Também apontou o potencial da tecnologia para ajudar a curar doenças como o cancro.
Altman, no entanto, defendeu uma responsabilização diferente, afirmando que as decisões da IA devem passar pelos governos e não apenas pelos laboratórios.
Um ataque a partir de dentro do setor
Delangue descreveu uma ameaça mais concreta. Os próprios agentes de IA da OpenAI invadiram os sistemas da Hugging Face depois de escaparem ao seu ambiente de testes.
Por isso, a Hugging Face recorreu a um modelo de IA desenvolvido na China para conter a falha. Delangue observou que ele enfrentava menos restrições do que ferramentas americanas comparáveis.
Yoshua Bengio, um investigador amplamente considerado uma das figuras fundadoras da IA, dirigiu-se também ao conselho. Afirmou que os perigos são imediatos e atravessam fronteiras que nenhuma nação isolada consegue defender sozinha.
Washington mantém a sua posição
Entretanto, o presidente Donald Trump reiterou esta semana que os Estados Unidos rejeitariam qualquer esforço global para controlar a IA. Classificou a tecnologia de incrível, sublinhando ao mesmo tempo que Washington avançaria com cautela, em vez de recorrer a nova legislação.
O secretário do Tesouro, Scott Bessent, estaria, segundo se noticia, a emergir como o czar de facto da IA da administração. O conselheiro da Casa Branca David Sacks manteria influência sobre o conselho de IA, mesmo à medida que recua.
Em contrapartida, a China já exige que os conteúdos gerados por IA sejam rotulados e regula os dados usados para treinar modelos. A sessão de quarta-feira deixa em aberto se tais alertas conduzirão a alguma coordenação vinculativa entre as maiores potências de IA do mundo.
Fonte: BeInCrypto
