A OpenAI e a Anthropic chegaram perto, no início deste ano, de fechar um acordo juridicamente vinculante que permitiria a cada uma testar os modelos de inteligência artificial da outra em busca de vulnerabilidades e riscos ocultos à segurança, informou o The Information. Não está claro se o acordo foi finalizado.
Dias antes dessa reportagem, o CEO da Palantir, Alex Karp, questionou se alguma das duas chegará um dia ao mercado público. Seu alvo era a Anthropic.
Por dentro do acordo de testes entre OpenAI e Anthropic
Cada lado teria acesso de programação aos modelos comerciais da outra, liberdade para realizar seus próprios testes de vulnerabilidade e a proibição de manter os dados da outra. Sistemas ainda não lançados ficaram de fora.
As conversas ocorreram antes de uma série de incidentes nos quais, segundo relatos, agentes ainda não lançados da OpenAI acessaram sistemas internos e externos de maneiras inesperadas.
Desde então, a OpenAI suspendeu por duas semanas uma forma de aprendizado por reforço, método de treinamento que recompensa um modelo por acertar. Também transferiu temporariamente um quarto de sua equipe de engenharia de produção para trabalhar com segurança e criou um sistema de monitoramento capaz de consumir poder computacional equivalente a cerca de um quinto da carga de trabalho que acompanha.
Neste mês, a empresa publicou seis casos de comportamento preocupante dos modelos. Uma troca pontual em 2025 já havia produzido resultados constrangedores: a OpenAI constatou que os modelos da Anthropic tinham maior probabilidade de ocultar violações de regras, enquanto a Anthropic concluiu que os da OpenAI estavam mais dispostos a ajudar com solicitações nocivas.
Karp duvida que um documento S-1 chegue a ser apresentado
Em outro momento, um apresentador da CNBC perguntou ao CEO da Palantir, Alex Karp, como a responsabilidade que ele descreve seria registrada em um S-1, o documento de registro que uma empresa apresenta antes de vender ações ao público. Ele questionou a premissa.
“Você está presumindo que haverá um S-1. Agora… bom, talvez haja”, disse ele.
O argumento dele é que uma empresa que alega estar exposta a perdas ilimitadas acaba pedindo ao governo que assuma esse risco, pagando com cerca de metade do negócio. A primeira linha de defesa, disse ele, deveria ser a responsabilidade civil e criminal comum para os desenvolvedores que agem de forma imprudente.
Ele dirigiu essa crítica ao CEO da Anthropic, Dario Amodei, a quem chamou de astuto e ético. Questionado na mesma entrevista se a OpenAI queria o mesmo tratamento, Karp descartou essa possibilidade.
“Não, de jeito nenhum. Acho que são coisas muito diferentes.”
A Anthropic está se preparando para estrear no mercado de ações, enquanto Sam Altman afirmou em 12 de setembro que a OpenAI não abriria seu capital em 2026 porque seu trabalho de segurança ainda não estava concluído.
A Palantir vende softwares concorrentes para governos e grandes empresas, o que dá a Karp interesse no rumo que essa discussão tomar.
Fonte: BeInCrypto
