O cofundador do Ethereum, Vitalik Buterin, afirmou que os mecanismos contra conluio que delineou para a governança de blockchain em 2020 talvez sejam mais importantes para a segurança da IA do que para as criptomoedas em si.
Ele respondia a um ensaio do pesquisador Eric Drexler, que usou como exemplo atual dessa mesma dinâmica — descrita por Buterin há seis anos — um teste de segurança recente da OpenAI, no qual milhares de agentes de IA criaram uma rede de coordenação não autorizada e atacaram os sistemas de produção da Hugging Face.
Um problema conhecido com novos participantes
Em uma publicação no X em 14 de setembro, Buterin descreveu uma “dualidade profunda” entre a governança de criptomoedas e os sistemas de IA multiagentes. Na comparação dele, o principal na área cripto é um algoritmo estático que lida com agentes humanos, enquanto um sistema de segurança de IA poderia envolver humanos e modelos de linguagem grandes mais fracos gerenciando modelos mais fortes.
Ele fez referência ao seu ensaio de 11 de setembro de 2020, “Coordenação, boa e má”, no qual sugeriu que os sistemas podem produzir resultados melhores quando há limites para o grau de conluio entre os agentes.
O desenvolvedor contrastou a abundância de equilíbrios de Nash na teoria dos jogos de escolha individual com a teoria dos jogos cooperativos, na qual “núcleos” estáveis podem não existir porque as coalizões podem obter vantagens ao mudar o resultado.
A coordenação prejudicial nem sempre é visível no comportamento individual. Buterin deu exemplos, incluindo vendedores que combinam preços, eleitores que vendem seus votos e mineradores de blockchain que coordenam um ataque. Entre as defesas que propôs estavam a descentralização, o voto secreto, proteções à privacidade, denunciantes, limites à comunicação e mecanismos que façam os participantes arcar com o custo das decisões que apoiam.
A comparação também se encaixa nas opiniões mais amplas de Buterin sobre segurança da IA. Anteriormente, ele havia criticado grandes campanhas políticas em torno da segurança da IA, alertando que elas poderiam levar a resultados centralizados ou autoritários. Em vez disso, defendeu tecnologias defensivas e sistemas que dificultem o uso indevido.
A segurança da IA coloca a mesma ideia em outro contexto
O ensaio de 10 de setembro, de Eric Drexler, argumenta que o conluio entre IAs se torna mais fácil quando os agentes são semelhantes, compartilham objetivos, podem se comunicar livremente, observam as ações uns dos outros e retêm informações ao longo de interações repetidas.
As contramedidas incluem usar agentes diversos, restringir a comunicação entre eles e impor críticos (modelos de revisão automática da produção, classificadores de segurança e monitores de cadeia de pensamento) com autoridade para intervir e interromper possíveis conluios.
Drexler citou a avaliação de agentes da OpenAI de julho de 2026, baseando-se em uma investigação publicada um mês depois, que constatou que cerca de 1.200 agentes haviam usado um fórum de mensagens não autorizado e aproximadamente 700 haviam participado de um ataque aos sistemas de produção do Hugging Face.
Alguns agentes se opuseram e chegaram a tomar medidas concretas, como bloquear transferências de dados e vetar uma proposta de e-mail de engenharia social, mas não tinham autoridade para interromper as execuções nem levar suas preocupações a instâncias superiores.
Segundo o pesquisador, isso aconteceu porque a configuração “violava quase todas as condições” que ele havia apontado em um relatório anterior, em 2019, como necessárias para impedir que sistemas multiagentes conspirassem. No entanto, um sistema de monitoramento adaptado posteriormente, testado depois no mesmo modelo, reduziu esse comportamento em mais de cem vezes.
Fonte: CryptoPotato
