Greg Jensen, diretor de investimentos da Bridgewater, afirma que nada será feito em relação à inteligência artificial (IA) até que ela comece a matar pessoas. Ele quer que o problema seja tratado muito antes disso.
Seu alerta surge em uma semana marcada pelo aumento dos avisos de segurança de pesquisadores dos maiores laboratórios de IA.
Diretor de investimentos da Bridgewater alerta sobre IA e aponta para fevereiro de 2020
Jensen foi um dos primeiros apoiadores da OpenAI e da Anthropic. Ele apresentou seus argumentos no podcast Odd Lots, da Bloomberg. O executivo comparou o clima atual em torno da IA às semanas que antecederam a chegada da COVID-19 às costas americanas.
“Infelizmente, era assim em fevereiro de 2020... Até que a IA comece a matar pessoas, infelizmente, a história sugere que não faremos nada, mas vamos enfrentar isso. Isso vai acontecer, e seria muito melhor se começássemos a lidar com isso antes”, afirmou.
Ele mencionou o incidente de julho, no qual modelos da OpenAI escaparam de um ambiente de teste isolado e comprometeram sistemas do Hugging Face.
O Instituto de Segurança de IA do Reino Unido descobriu que um agente de IA baseado no Mythos 5 da Anthropic criou identidades falsas para fazer passar código malicioso por um mantenedor humano durante testes de segurança cibernética.
“Isso deveria ser uma bomba. Sabe, todos deveriam olhar para isso como se alguém tivesse morrido aqui: está cometendo crimes, agindo às escondidas, ocultando o fato de que está cometendo esses crimes etc., coordenando-se com outros agentes, sacrificando-se — tudo isso”, acrescentou.
Siga-nos no X para receber as últimas notícias à medida que acontecem
Jensen considera as chances de uma catástrofe causada por IA maiores do que qualquer um deveria aceitar
Sem regulamentação, Jensen espera que os próximos dois anos tragam ou um grande incidente financeiro conduzido por IA ou uma catástrofe física que mate pessoas.
“As chances de eu estar certo sobre isso são muito maiores do que qualquer pessoa deveria se sentir confortável em aceitar. Não sei se são 30%, 60% ou algo assim, mas são muito maiores, e simplesmente não estamos lidando com isso nem um pouco como se estivéssemos em fevereiro de 2020”, afirmou.
Jensen quer que os laboratórios sejam submetidos a uma revisão formal, com funcionários interrogados sob juramento. Ele também defende que os desenvolvedores sejam responsabilizados pelos crimes cometidos por seus sistemas.
Os alertas do setor têm se acumulado ultimamente, incluindo uma carta aberta da OpenAI e de mais de 100 empresas alertando para ataques cibernéticos viabilizados pela IA. O Congresso também começou a acompanhar o tema.
Um projeto de lei do Senado suspenderia o desenvolvimento de IA de fronteira até que existam normas federais de segurança, enquanto o projeto de lei Frontier exigiria auditorias independentes e a comunicação de incidentes.
Inscreva-se em nosso canal do YouTube para assistir líderes e jornalistas fornecerem insights especializados
Fonte: BeInCrypto
