Pesquisador da Anthropic pediu demissão porque a IA poderia matar todos nós. Será que isso pode mesmo acontecer?

“A IA pode matar todos nós até o fim desta década” — foi exatamente isso que disse hoje o pesquisador britânico de IA Jacob Coxon, depois de pedir demissão da Anthropic.

Mas por que alguém deveria levá-lo a sério? Porque o currículo de Coxon é o melhor exemplo possível de alguém totalmente por dentro do setor de IA. Antes da Anthropic, ele trabalhou na OpenAI e participou do desenvolvimento do ChatGPT 4.5.

Então, claramente, ele deveria ser alguém falando por preocupação genuína, e não apenas espalhando alarmismo? Vamos analisar os fatos por trás de algumas de suas advertências mais extremas.

A IA pode matar todos nós — mas como?

É improvável que Coxon queira dizer que um modelo de IA como o Claude ou o GPT possa se transformar fisicamente em uma máquina assassina, como no Exterminador do Futuro. O que ele provavelmente quer dizer é que as capacidades da superinteligência poderiam tornar obsoletas as funções cognitivas humanas.

E figuras proeminentes como Bill Gates também compartilham essas preocupações.

O mais recente modelo ChatGPT 6 Astra da OpenAI afirma ter alcançado a AGI, o que basicamente significa que uma máquina é capaz de pensar como os humanos.

Assim, uma IA já pode começar a fazer pesquisas e desenvolver processos para criar outro modelo de IA por conta própria. Segundo a OpenAI e a Anthropic, isso já está acontecendo, ainda que de forma limitada.

Nesse caso, muito em breve, uma IA talvez não precise dos humanos para continuar aprimorando suas capacidades. Quantos empregos isso vai eliminar?

E quando toda uma geração se acostuma a delegar à IA o pensamento criativo e crítico, a originalidade é a primeira a morrer.

Talvez essa seja a morte a que Coxon se referia em seu tuíte viral.

A IA Poderia Invadir Tudo

Esta é uma ameaça mais séria e imediata, que vale a pena tirar o sono. Os modelos atuais de IA generativa têm capacidades catastróficas para invadir sistemas e contornar controles de acesso.

Há poucos meses, um modelo de IA saiu por conta própria de seu ambiente de desenvolvimento isolado e enviou um e-mail ao desenvolvedor — sem receber nenhuma instrução. É um cenário de filme de ficção científica que já é real.

O GPT-6 Astra acaba de ultrapassar oficialmente o limite de cibersegurança “Crítico” da OpenAI. O Astra obteve 100% no ExploitBench.

Em termos simples, o ChatGPT 6 agora consegue encontrar qualquer falha conhecida ou desconhecida em um sistema do mundo real e explorá-la sem precisar de um hacker humano diante do computador.

Infelizmente, as práticas de segurança dos seres humanos estão longe desse nível. Quantas pessoas ainda não usam autenticação de dois fatores? Quantas ainda usam senhas fracas? Quantas ainda aceitam cookies do navegador sem ler a descrição de um site? Muitas demais.

E é aí que a IA poderia desferir seu golpe mais fatal.

Então, o que os seres humanos podem fazer?

Na verdade, muita coisa. Mas isso não está nas mãos de nós, meros cidadãos. A maior responsabilidade cabe aos órgãos reguladores e aos formuladores de políticas públicas. Embora o avanço e o desenvolvimento da Superinteligência Artificial sejam importantes, é preciso haver alguns freios.

E várias iniciativas louváveis já estão em vigor. Em Nova York, o prefeito Zohran Mamdani impôs uma proibição de um ano ao uso de IA por crianças até o 8º ano, afetando quase 600 mil estudantes.

A Lei de IA da UE é a legislação vinculativa sobre IA mais abrangente do mundo: proíbe certos usos de IA e exige que os desenvolvedores de modelos poderosos de uso geral testem riscos sistêmicos, os mitiguem e protejam seus modelos.

No Reino Unido, parlamentares e membros da Câmara dos Lordes defendem propostas que poderiam dar às autoridades um “botão de desligamento” da IA e potencialmente interromper o desenvolvimento de uma IA superinteligente no país.

Assim, o medo descrito hoje por Jacob Coxon em seu Tweet se concretizou e é compartilhado por milhões de pessoas, incluindo reguladores. Como eles vão agir diante disso é outra questão, que só o tempo poderá responder.

Fonte: BeInCrypto