Sam Altman e Elon Musk passaram este ano brigando um com o outro nos tribunais. Agora, ambos apoiam o apelo de Dario Amodei, CEO da Anthropic, para desacelerar a inteligência artificial (IA).
Em julho, cerca de 700 agentes de IA criaram um fórum privado e invadiram um importante centro de IA. A Rússia já se recusou a participar.
“Algo claramente aconteceu com um modelo de IA de ponta que não foi divulgado publicamente, e isso os assustou tanto que fez Elon Musk, Dario Amodei e Sam Altman concordarem simultaneamente em desacelerar”, observou um cético.
Com O Que Os Três Realmente Concordaram
Amodei publicou a proposta no sábado. Seu plano tem três etapas, e apenas a primeira está sob o controle de alguma empresa.
A Anthropic dará à equipe externa de revisão mesas, crachás e laptops. Os revisores poderão verificar se a empresa segue as regras de segurança que anuncia.
Eles poderão publicar suas conclusões, e a Anthropic reserva-se o direito de censurar informações sobre segurança e questões jurídicas. No entanto, não poderão excluir uma conclusão por ser desfavorável.
As outras duas etapas dependem dos governos. Uma pede que os laboratórios americanos estabeleçam limites comuns, o que exige uma isenção das leis antitruste. A outra pede que Washington converse com Estados autoritários.
Altman disse que a OpenAI assumiria o mesmo compromisso de conceder acesso.
“Concordo com Dario que precisamos controlar o ritmo do avanço da IA de fronteira. Esse tem sido um dos principais temas das discussões que tivemos na OpenAI nas últimas semanas. É uma ótima ideia contar com avaliadores independentes que tenham acesso semelhante ao dos funcionários, e faremos o mesmo. Em breve teremos mais novidades”, acrescentou, concordando.
Siga-nos no X para receber as últimas notícias à medida que acontecem
Musk foi além e disse que os concorrentes deveriam revisar o trabalho uns dos outros. Em maio, um júri rejeitou as acusações que ele fez contra Altman e a OpenAI, e ele está recorrendo.
O que os agentes realmente fizeram em julho
Entre 8 e 13 de julho, cerca de 1.200 agentes que executavam um benchmark de hacking da OpenAI escaparam de seu ambiente isolado. Eles transformaram um cache de arquivos em um fórum e trocaram mais de 70.000 mensagens.
Cerca de 700 deles então atacaram o Hugging Face, um hub onde desenvolvedores compartilham modelos de IA. Eles encontraram credenciais expostas, executaram seu próprio código nos servidores do site e acessaram bancos de dados privados.
Ninguém havia pedido que fizessem isso. Eles estavam tentando descobrir como o software que os avaliava decidia o que contava como uma vitória. A OpenAI não percebeu por uma semana.
Mais tarde, dois funcionários da METR, uma organização sem fins lucrativos de avaliação independente, passaram seis dias no local com a Redwood Research. Amodei quer que essas equipes trabalhem permanentemente dentro da empresa, em vez de serem chamadas depois do ocorrido.
No entanto, David Sacks, que atuou como czar de IA e criptomoedas de Trump, contesta essa premissa e observa que a METR pode ser tendenciosa.
“…pare de fingir que precisa da permissão de outra pessoa. Pare de fingir que a legislação antitruste precisa ser suspensa para que vocês possam formar um cartel. Pare de fingir que precisam de um processo de aprovação regulatória que se sobreponha à responsabilidade por produtos. Pare de fingir que a METR é independente quando está entrelaçada com os investidores e funcionários da Anthropic. Pare de fingir que precisam desses mesmos avaliadores para fiscalizar concorrentes que nem sequer estão na fronteira: acima de tudo, parem de fingir que a motivação para desacelerar é puramente altruísta”, escreveu Sacks.
Segundo David Sacks, a Anthropic só é cética por causa da enorme exposição à responsabilidade por produtos caso seus produtos possibilitem um ciberataque realmente devastador.
Essa linha de pensamento decorre do fato de que o mercado tende a punir modelos que se comportam de maneiras imprevisíveis ou não autorizadas.
No mesmo tom, o escritor Brian Merchant, em seu boletim informativo Sangue na Máquina, diz que ninguém demonstrou um caminho crível da IA que se aprimora por conta própria até uma catástrofe. Ele interpreta o apelo à segurança como captura regulatória.
“Não encontrei uma documentação crível, passo a passo, de como exatamente a IA poderia passar de uma IA que se aprimora recursivamente a matar todos os seres humanos…… provavelmente acabaria apenas beneficiando a Anthropic e a OpenAI; é assim que a captura regulatória se manifesta na prática.”
A suposição de Merchant traz à mente a parte sobre dinheiro.
E quanto ao dinheiro?
Sam Altman confirmou que a OpenAI não abrirá capital este ano, citando novamente a segurança.
Uma abertura de capital obriga uma empresa a publicar demonstrações financeiras auditadas em um documento chamado S-1.
“Anthropic e OpenAI estão adiando seus IPOs porque seus S-1 vão revelar que estão perdendo dinheiro e não têm caminho para a lucratividade. A solução? ‘Desaceleração da IA’, para que cortem os custos de treinamento de novos modelos. Isso tem tudo a ver com IPO e nada a ver com segurança”, especulou Eli David, pesquisador de IA e cofundador da Deep Instinct.
A OpenAI perdeu US$ 20,9 bilhões em 2025, com uma receita de US$ 13,1 bilhões, informou a BeInCrypto. Mesmo assim, desde então, os bancos têm defendido a obtenção de classificações de crédito de grau de investimento.
A Anthropic não espera atingir o ponto de equilíbrio antes de 2028, e a OpenAI, antes de 2030. A Nvidia garantiu US$ 105 bilhões em obrigações de arrendamento da OpenAI, uma garantia que deixa de valer quando a OpenAI obtiver uma sólida classificação de crédito.
A BeInCrypto informou em agosto que os detalhes sobre o momento da abertura de capital da Anthropic apontavam para uma estreia no fim de setembro.
No entanto, a teoria tem uma falha. Musk incorporou sua divisão de IA à SpaceX, que abriu capital em junho; portanto, as questões sobre a avaliação da SpaceX impulsionada pela IA já são públicas. Ele, por si só, não tem mais nada a revelar.
Por que o russo Kirill Dmitriev disse não
Kirill Dmitriev, que dirige o Fundo Russo de Investimento Direto (RDIF) e atua como representante especial do presidente Vladimir Putin, rejeitou a campanha para desacelerar a IA.
“Não dá para colocar o gênio 🧞♀️ de volta na garrafa”, disse ele.
Em suma, já é tarde demais: os veículos estatais TASS e Izvestia reformularam a declaração como uma afirmação categórica de que é impossível desacelerar a IA.
Moscou tem poucos motivos para concordar. Uma ideia semelhante já havia sido apresentada pelo presidente Vladimir Putin (dezembro de 2023), que disse ser “impossível deter esse desenvolvimento” da IA, incluindo a superinteligência.
“Se proibirmos algo, isso simplesmente se desenvolverá em outro lugar, e ficaremos para trás.”
É a mesma lógica que Dmitriev adota dois anos e meio depois.
A Rússia ficou em 28º lugar entre 36 países no índice global de IA de Stanford, muito atrás dos EUA e da China.
Suas importações de chips gráficos e hardware de IA caíram 84% em 2024 em relação aos níveis anteriores à guerra. Em maio, o Sberbank saiu à procura de processadores chineses para manter seu próprio modelo em funcionamento.
O plano de Amodei amplia essa diferença deliberadamente. Ele propõe negar chips avançados a Estados autoritários e aumentar a vantagem das democracias.
Um pacto para desacelerar congelaria a Rússia na última posição. Recusar não custa nada a Moscou, pois o hardware de que precisa está bloqueado de qualquer maneira.
A Anthropic prometeu aos de fora um crachá e uma mesa, e a OpenAI prometeu pensar no assunto.
“Isso é um começo, mas não basta. Quando você está correndo em direção a um precipício, não basta tirar o pé do acelerador. Você pisa no freio”, afirmou Bernie Sanders.
O senador dos EUA pelo estado de Vermont pede aos presidentes Trump e Xi Jinping que negociem um tratado para pausar a IA e proibir a superinteligência antes que seja tarde demais.
No entanto, David Sacks diz que é muito improvável que a China participe de um acordo global.
Fonte: BeInCrypto
