Hot Chips — a conferência técnica voltou a pôr na ordem do dia a pressão por reduzir custos e consumo na IA, com propostas que podem tornar a computação de inferência mais distribuída e menos dependente de GPUs de alto consumo. A mudança tem impacto direto na conta energética e orçamental de centros de dados e empresas.
- Flash resumo: OpenAI apresentou o chip Jalapeño; testes iniciais apontam desempenho competitivo e maior eficiência energética, enquanto fabricantes anunciavam CPUs e NPUs para inferência fora das GPUs.
Diversificação: menos dependência das GPUs
No encontro técnico foram mostradas arquitecturas que buscam gerar tokens mais baratos e com menos consumo energético, movendo trabalho de inferência para CPUs, NPUs e chips especializados.
OpenAI detalhou o seu chip chamado Jalapeño, que promete aumentar a capacidade de inferência dos seus centros. Empresas de análise de mercado testaram o Jalapeño e relataram resultados favoráveis face a GPUs concorrentes em vários modelos open source.
“O risco estratégico não é escolher o chip errado em 2026. É construir uma arquitectura de IA que impeça tirar partido de um chip muito mais barato ou melhor em 2028.” — Stephen Sopko, analista.
O que isto significa para empresas e infra‑estruturas
Empresas que operam modelos de grande escala vão continuar a usar nuvem para tarefas de muito elevado consumo, mas estão a planear diversificar: AI PCs, servidores locais e centros de dados soberanos entram na equação para cargas menos intensivas.
Intel anunciou CPUs com extensões de IA como o Diamond Rapids para servidores e o Wildcat Lake para PCs e edge, ambos pensados para permitir inferência sem depender sempre de coprocessadores externos.
O que acha? Acha que esta mudança nas arquitecturas de IA vai reduzir os custos das soluções que usa? Para acompanhar mais, aceda à nossa editoria.
Perguntas Frequentes
O que mostrou o Hot Chips que promete reduzir o custo da IA?
Hot Chips apresentou novos processadores e designs de sistema que visam gerar tokens a menor custo e menor consumo. Entre os destaques está o chip Jalapeño da OpenAI e anúncios de CPUs com NPUs da Intel, com testes iniciais a indicar ganhos de eficiência em múltiplos modelos open source.
Que papel tem o chip Jalapeño da OpenAI na mudança das infra‑estruturas?
Hot Chips colocou o Jalapeño em evidência como um chip de inferência desenhado para servir mais carga e reduzir custos; análises independentes referiram que o Jalapeño superou várias GPUs de Nvidia, AMD e Google em testes com modelos open source, o que pode alterar decisões de compra para data centres.
A Nvidia fica em desvantagem após as revelações do Hot Chips?
Hot Chips mostrou que o mercado de inferência está a tornar‑se mais heterogéneo, com a Nvidia a reconhecer a necessidade de CPUs e chips adicionais, como a sua Vera CPU e o Groq 3 LPX, para complementar as GPUs em cenários de inferência mais eficientes em energia.
Quais as novidades da Intel apresentadas no Hot Chips?
Hot Chips incluiu anúncios da Intel sobre o Diamond Rapids, uma CPU de servidor com extensões de IA para inferência no processador, e o Wildcat Lake, uma CPU para PCs e edge com NPUs, desenhada para levar capacidades de IA a dispositivos de baixo custo e consumo.
Como devem as empresas preparar a sua arquitectura de IA face a estas mudanças?
Hot Chips sublinhou a necessidade de arquitecturas flexíveis: empresas são aconselhadas a planear sistemas que permitam migrar entre GPUs, CPUs e chips especializados, evitando designs rígidos que impeçam aproveitar alternativas mais económicas nos próximos anos.
João Martins