Parlamentares dos EUA responderam à renúncia de um pesquisador da Anthropic com uma nova iniciativa para interromper o desenvolvimento de inteligência artificial (IA) avançada, incluindo um projeto de lei no Senado que proibiria totalmente a superinteligência.
Jacob Coxon pediu demissão em 9 de setembro e afirmou que tanto a Anthropic quanto a OpenAI estão colocando vidas humanas em risco.
Por que a renúncia do pesquisador da Anthropic chegou ao Capitólio
Mais de 20 parlamentares responderam à publicação, a maioria defendendo uma nova legislação sobre IA. O senador Bernie Sanders afirmou que apresentará um projeto de lei para proibir a superinteligência e suspender o desenvolvimento de IA.
A BeInCrypto informou que, no início deste mês, Sanders e o deputado Greg Casar propuseram a “Lei de Proibição da Superinteligência Artificial”. O projeto proibiria permanentemente o desenvolvimento e a implantação de IA superinteligente. Também interromperia o desenvolvimento de IA avançada até que um órgão regulador federal estabelecesse padrões de segurança.
Enquanto isso, Casar também classificou a situação como uma emergência e pediu audiências no Congresso. A deputada Lori Trahan chamou a atenção dos parlamentares para sua Lei FRONTIER, de caráter bipartidário, apresentada em julho com o deputado Jay Obernolte.
“A Lei FRONTIER estabelece requisitos escalonados com base no porte de um desenvolvedor de IA de fronteira, incluindo fichas de modelo, estruturas de gestão de riscos, auditorias independentes, notificação de incidentes e avaliações contínuas. Também cria um padrão nacional uniforme para transparência, auditoria e comunicação de riscos catastróficos, a fim de evitar um mosaico de regulamentações estaduais”, dizia o comunicado.
O senador Chris Van Hollen quer salvaguardas obrigatórias e conversas urgentes com a China. O deputado Ted Lieu pressionou a liderança republicana a levar adiante o projeto de lei do botão de desligamento de IA que apresentou este ano.
A deputada republicana Anna Paulina Luna rompeu com o padrão partidário e pediu uma sessão especial do Congresso sobre IA.
Siga-nos no X para receber as últimas notícias à medida que acontecem
Jacob Coxon diz que os laboratórios querem regras
Enquanto isso, a pressão não é apenas política. Empresas de IA também vêm defendendo a regulamentação. Coxon disse à CNN que os executivos que pedem ao Congresso que regulamente o setor são sinceros. No entanto, argumentou que nenhum deles confia o bastante nos concorrentes para desacelerar primeiro.
“Essas pessoas também são completamente sinceras quando imploram para que sejam regulamentadas… elas se veem nessa situação em que são obrigadas a correr para desenvolver uma tecnologia mortal”, disse ele.
Em uma publicação de setembro, a Anthropic afirmou separadamente que o setor se beneficiaria de um mecanismo legal e verificável para coordenar o ritmo do desenvolvimento.
Onde começa o risco de extinção
O ritmo só importa por causa do que Coxon acha que vem a seguir. Ele explicou que, se uma IA recebe o problema da pesquisa em IA, começa a se aprimorar.
Ele apontou para terça-feira, quando, segundo relatos, os sistemas de IA da OpenAI resolveram um problema do milênio de forma totalmente autônoma.
A parte assustadora, disse ele, é aplicar o mesmo método à própria IA. Os modelos aprimoram outros modelos sem nenhuma intervenção humana, o que Coxon chama de “explosão de inteligência”.
“Neste momento, não há risco de extinção. O pior que os modelos atuais podem fazer é talvez invadir algum sistema e potencialmente causar muitos danos à infraestrutura… eles não são inteligentes o bastante para nos superar de uma forma que leve à extinção”, disse ele.
No entanto, Coxon alertou que essa mesma vontade própria, aliada a capacidades muito maiores, poderia causar um caos extremo. Ele citou a invasão de infraestruturas críticas e a criação de armas biológicas capazes de causar a extinção.
Inscreva-se em nosso canal do YouTube para assistir líderes e jornalistas fornecerem insights especializados
Fonte: BeInCrypto
