O presidente Donald Trump e seis líderes de tecnologia assinaram um acordo voluntário de IA na terça-feira, pedindo que as empresas policiem seus próprios sistemas de IA enquanto Trump rejeita pedidos por regulamentações federais.
Trump postou o documento de uma página no Truth Social. A oposição aos centros de dados está crescendo, e agentes de IA, softwares que atuam em nome de um usuário’, se tornaram rebeldes em vários incidentes de alto perfil.
O que o acordo de IA pede às empresas de tecnologia
O acordo estabelece quatro camadas de supervisão, informou a Reuters. As empresas primeiro construiriam controles internos para monitorar como os modelos se comportam desde o treinamento até o lançamento, com riscos de hacking, biológicos e químicos destacados. Uma equipe interna verificaria se esses controles funcionam corretamente.
Além disso, cada empresa se associaria a um auditor externo para testes independentes. Um comitê de auditoria independente revisaria as descobertas de ambos os auditores e das equipes de controle.
A AP informou que Trump assinou ao lado de Dario Amodei da Anthropic’, Sundar Pichai do Google’, Mark Zuckerberg da Meta’, o presidente da OpenAI Greg Brockman, Jensen Huang da Nvidia’ e o fundador da xAI Elon Musk.
“As empresas participantes se reunirão regularmente para estabelecer padrões e melhores práticas para melhorar a segurança de seus sistemas.”
Acordo da Casa Branca, via Reuters
Por que o acordo de IA pode ter peso limitado
No entanto, o compromisso é voluntário. O texto diz que codificar os passos em lei pode fazer sentido ao longo do tempo, e Trump chamou o compromisso de moralmente vinculativo, sugerindo que depende da reputação, não da lei.
A reportagem sobre o documento até agora não diz quem seleciona os auditores, quais padrões eles aplicarão ou o que acontece quando um controle falha. Trump disse que nomeará um supervisor nos próximos dias e sugeriu que cerca de 10 pessoas fariam parte de um comitê.
Trump descartou os pedidos por guardrails de IA no início deste mês e enquadrou a IA na terça-feira como uma corrida com a China que não deixa espaço para o segundo lugar.
Ainda assim, a indústria se dividiu sobre o debate da desaceleração da IA. Amodei, que pediu uma desaceleração em um ensaio no início deste mês, disse que a tecnologia traz riscos reais e a resposta ainda está em discussão.
Em contraste, o presidente da Câmara, Mike Johnson, argumentou que a segurança da IA recai sobre os desenvolvedores.
Portanto, o próximo teste pode ocorrer em poucos dias. A escolha do supervisor de Trump’ e o comitê prometido podem mostrar se o acordo ganha aplicação externa.
Fonte: BeInCrypto
