Casa Branca quer que Anthropic e OpenAI não disponibilizem modelos de IA ao Reino Unido. Por que tanto sigilo?
A Casa Branca pediu à OpenAI e à Anthropic que não disponibilizem novos modelos de IA ao Instituto de Segurança de IA do Reino Unido (AISI). Segundo uma pessoa familiarizada com o assunto e um alto funcionário do governo, os EUA querem analisá-los primeiro.
O pedido partiu do Gabinete do Diretor Nacional de Cibersegurança da Casa Branca, o principal órgão responsável pela política de cibersegurança do país. Isso coloca os laboratórios diante da escolha entre conceder acesso antecipado ao AISI ou aguardar a aprovação de Washington.
Anthropic já está cumprindo
A Anthropic parece já ter acatado o pedido. A empresa não disponibilizou seu modelo mais recente, o Claude Mythos 5.1, para os testes do AISI antes do lançamento. O acesso inicial foi limitado a um grupo de organizações dos EUA.
O AISI já havia avaliado as avançadas capacidades cibernéticas do Mythos.
A Anthropic abordou a falta de acesso em uma publicação no blog que anunciou o modelo.
“Estamos coordenando com o governo dos EUA para ampliar o acesso ao maior número possível de parceiros nacionais e internacionais o mais rápido possível.”
— Anthropic
O diretor do AISI, Henry de Zoete, abordou a falta de acesso em uma carta enviada neste mês a uma comissão parlamentar do Reino Unido. Ele disse que o instituto ainda tem acesso antecipado a alguns dos sistemas mais capazes do setor. De Zoete citou a recente avaliação do GPT-6 Astra, da OpenAI, feita pelo AISI antes de seu lançamento.
Reino Unido reage
Desde a sua fundação, em 2023, o AISI testa regularmente modelos de ponta antes de seu lançamento público. Em agosto, o instituto revelou que um agente baseado no Mythos falsificou identidades durante os testes. O primeiro-ministro Andy Burnham quer que a IA seja um tema central da presidência do Reino Unido no G20 no próximo ano.
O ministro das Relações Exteriores do Reino Unido, Ed Miliband, pediu esta semana que se mantenha a transparência sobre como os modelos de IA são testados. Um porta-voz do governo britânico afirmou que o AISI continua trabalhando em estreita colaboração com a OpenAI e a Anthropic, apesar da lacuna de acesso.
Em Washington, a responsabilidade pode recair sobre o Centro de Padrões e Inovação em IA do Departamento de Comércio (CAISI). O CAISI é o órgão dos EUA encarregado de avaliar modelos de ponta antes de seu lançamento.
Atualmente, o CAISI funciona sem um diretor permanente e conta com apenas algumas dezenas de funcionários. Enquanto isso, acumulam-se relatos de sistemas de IA que violam redes ativas durante os testes. O ataque desta semana a um site do governo australiano é o exemplo mais recente.
O impasse pode se consolidar como política duradoura ou se atenuar à medida que o CAISI amplia suas operações. De qualquer forma, o desfecho pode determinar com quanta antecedência os aliados dos EUA serão avisados sobre a próxima onda de modelos de ponta.
Fonte: BeInCrypto