In Breve
- Qual è l'obiettivo della partnership tra AMD e Cerebras?
- L'obiettivo è migliorare l'efficienza dell'inferenza AI combinando Helios e Wafer-Scale Engine.
- Quando sarà disponibile la nuova soluzione di AMD e Cerebras?
- La soluzione sarà disponibile nella seconda metà del 2026 tramite Cerebras Cloud.
- Quali sono i vantaggi della nuova architettura proposta da AMD e Cerebras?
- L'architettura offre un aumento fino a cinque volte dei token per secondo per watt rispetto a una configurazione WSE standalone.
AMD e Cerebras Systems hanno stretto una collaborazione strategica per rivoluzionare il campo dell’inferenza nell’intelligenza artificiale. La partnership combina il sistema rackscale Helios di AMD con il Wafer-Scale Engine (WSE) di Cerebras, creando una soluzione disaggregata che promette di migliorare significativamente l’efficienza e le prestazioni. Questa innovativa architettura sarà disponibile attraverso il Cerebras Cloud nella seconda metà del 2026.
Nei test interni, le due aziende hanno riportato un incremento fino a cinque volte dei token per secondo per watt (TPS/W) rispetto a una configurazione WSE standalone. Questo miglioramento è stato misurato utilizzando il modello open-source Kimi 2.6 1T, noto per la sua complessità e dimensioni. L’architettura proposta sposta la fase di prefill e l’elaborazione dei prompt sul sistema Helios, mentre il WSE si concentra sulla decodifica e sulla generazione dei token, ottimizzando così l’intero processo.
Il modello Kimi 2.6, con un trilione di parametri totali, richiede circa 32 miliardi di parametri attivi per token e un peso complessivo in INT4 di circa 500 GB. Un singolo wafer Cerebras può contenere 44 GB, il che significa che un’implementazione basata solo su WSE richiederebbe oltre una dozzina di wafer. Al contrario, un rack Helios può ospitare il modello molteplici volte, rendendo la soluzione particolarmente efficace per modelli che non possono essere contenuti interamente su pochi wafer WSE.
Questa innovazione arriva in un momento cruciale per il settore AI, caratterizzato da un crescente interesse degli investitori e del mercato per il finanziamento circolare. L’annuncio giunge poco dopo che Nvidia ha ottenuto una licenza non esclusiva per la tecnologia di SRAM decode di Groq, valutata 20 miliardi di dollari. Nel frattempo, Cerebras, recentemente quotata in borsa, ha registrato significative oscillazioni del titolo, mentre AMD continua a vedere un aumento del valore azionario.
Nonostante i dettagli finanziari dell’accordo non siano stati resi noti, la collaborazione tra AMD e Cerebras rappresenta un passo significativo verso soluzioni più efficienti e scalabili nel campo dell’inferenza AI, con potenziali implicazioni per l’intero settore tecnologico.