O cofundador do Ethereum, Vitalik Buterin, afirma que a inteligência artificial (IA) local está perto de dar conta de boa parte das tarefas do dia a dia. Ele executou o Qwen3.8-Flash-Next, da Alibaba, em seu próprio laptop e publicou os resultados de velocidade.
Ao contrário do ChatGPT, essa configuração nunca se conecta a um servidor na nuvem. O modelo fica no próprio computador, que responde à solicitação por conta própria.
Teste de IA local de Vitalik Buterin mostra velocidade suficiente para uso prático
O laptop dele usa o chip Strix Halo, da AMD. A maioria dos computadores divide o trabalho entre um processador e uma placa gráfica separada, cada um com sua própria memória. O Strix Halo reúne os dois em um único chip e permite que compartilhem a mesma memória.
Esse design é importante porque um modelo de IA precisa caber na memória para poder ser executado. Uma placa gráfica típica oferece de 8 a 24 gigabytes, muito pouco para um modelo desse tamanho. Os computadores com Strix Halo vêm com até 128 gigabytes, que podem ser usados por qualquer uma das partes do chip. Assim, um único laptop pode comportar um modelo que, até pouco tempo atrás, exigia hardware de servidor.
As velocidades que ele publicou são suficientes para tarefas comuns. As respostas a solicitações curtas chegaram em um ritmo confortável para a leitura. A geração ficou mais lenta quando as solicitações tinham dezenas de milhares de palavras, então documentos muito longos continuam sendo o ponto fraco.
A Alibaba publicou os pesos abertos em 26 de agosto. A equipe afirma que o modelo tem 125 bilhões de parâmetros, mas ativa apenas seis bilhões por vez, o que mantém baixo o uso de memória.
Buterin o chamou de Qwen3.8-Flash, embora a Alibaba disponibilize a versão para download como Qwen3.8-Flash-Next. Seu irmão maior, o Qwen3.8-Max, obteve ótimas pontuações em benchmarks em agosto.
Por que a privacidade muda os cálculos
Buterin vê uma segunda vantagem além da velocidade pura. Um modelo local responde no próprio dispositivo, então nenhum provedor recebe a solicitação.
Para tarefas mais exigentes, ele propõe uma divisão. O modelo local faria o que pudesse e, em seguida, removeria os detalhes sensíveis de tudo o que encaminhasse para um sistema hospedado maior.
“use seu modelo local para orquestrar consultas a modelos poderosos, para que suas consultas não revelem suas informações pessoais”
Na prática, o modelo local removeria nomes, endereços de carteiras ou código privado de um prompt e encaminharia apenas a pergunta restante. Esse filtro reduziria o que sai do dispositivo. Não garantiria que nada sensível passasse despercebido.
Essa proposta está alinhada ao histórico dele. Ele alertou sobre vigilância durante a disputa sobre o controle de chats na UE, e usuários de criptomoedas defenderam limites mais rígidos para agentes por motivos semelhantes.
Uma ação coletiva aberta em maio acusa a OpenAI de compartilhar consultas de usuários do ChatGPT com a Meta e o Google.
Os provedores de nuvem ainda dominam a fronteira tecnológica. No entanto, cada avanço no desempenho local tira mais tarefas rotineiras de seus servidores, e o hardware barato de memória compartilhada continua se disseminando.
A questão em aberto é quanta capacidade as pessoas estão dispostas a trocar por controle.
Fonte: BeInCrypto
