A China acabou de construir um modelo de IA importante sem chips da Nvidia. Agora, a OpenAI encontrou maneiras de operar com muito menos deles, reduzindo os custos de inferência em mais da metade. Mesmo assim, as ações da Nvidia subiram.
Esse é o enigma. A OpenAI é um dos maiores clientes da Nvidia (NVDA). No entanto, as ações subiram mesmo enquanto a empresa passou a precisar de menos chips.
OpenAI Reduz Custos de Inferência em Duas Frentes
A primeira frente é o software. O Information relatou que engenheiros da OpenAI reduziram os custos de inferência em mais da metade com novos métodos de otimização. A OpenAI não publicou os detalhes técnicos.
As economias reduzem o número de chips da Nvidia necessários para lidar com parte do tráfego do ChatGPT. Elas também podem permitir que a OpenAI baixe preços ou aumente os limites de uso.
A segunda frente é o hardware. Em 24 de junho, a OpenAI e a Broadcom (AVGO) apresentaram o Jalapeño, seu primeiro chip personalizado. A OpenAI disse que os primeiros testes indicam um desempenho por watt muito melhor do que os chips líderes de hoje, com um design de nove meses.
Os primeiros chips serão implantados em uma escala de gigawatt até o final de 2026, com a Microsoft como parceira principal. A Nvidia ainda executa a maior parte da inferência da OpenAI, mesmo enquanto a OpenAI financia sua parceria com a Broadcom.
Grandes Empresas de Tecnologia Correm para Construir Seus Próprios Chips
A OpenAI não está sozinha. O Google construiu unidades de processamento tensor desde 2016, e a Amazon seguiu com as suas. A empresa de pesquisa TrendForce projeta que sistemas baseados em ASIC alcançarão 27,8% das remessas de servidores de IA em 2026, o maior desde 2023.
De acordo com a contagem da TrendForce, chips personalizados devem crescer mais rápido do que as GPUs da Nvidia pela primeira vez. Fornecedores como Broadcom e Marvell se tornaram fabricantes-chave de chips personalizados na construção.
As sanções estão impulsionando a mesma tendência na China. A Meituan recentemente treinou seu modelo LongCat-2.0 com 1,6 trilhões de parâmetros em chips domésticos da China, sem nenhum hardware da Nvidia.
Por que as ações da Nvidia continuam subindo
A ameaça é real, mas os números explicam a calma. As ações da Nvidia subiram quase 2% em 30 de junho, perto de um valor de $4,8 trilhões. Os últimos resultados da Nvidia mostraram que a receita de data center aumentou 75%, atingindo um recorde de $62,3 bilhões em um único trimestre.
A maior parte da pressão está na inferência, não no treinamento. A Nvidia ainda domina o treinamento de modelos, onde seu software CUDA tem mantido desenvolvedores desde 2006. Chips personalizados raramente igualam essa flexibilidade.
A Nvidia também está defendendo a camada de inferência da qual é acusada de estar perdendo. Na GTC, a Nvidia disse que sua próxima plataforma Rubin reduz os custos de inferência por token em até 10 vezes em comparação com Blackwell. Inferência mais barata também tende a aumentar o uso e o total de computação com isso.
Nem todos estão convencidos. Alguns investidores mudaram para ações de chips rivais, apostando que a mudança na inferência se acumula. No entanto, a Nvidia orientou este trimestre sem contar nenhuma venda na China e ainda vê demanda recorde.
A Nvidia ainda vende todos os chips que consegue fabricar. O verdadeiro teste é se seus maiores clientes conseguem eliminá-la mais rápido do que o mercado cresce.
Fonte: BeInCrypto
