In Breve
- LinkedIn aumenterà la spesa per hardware AI?
- No, LinkedIn manterrà stabile l'investimento in GPU.
- Qual è l'obiettivo di LinkedIn riguardo l'efficienza AI?
- Mantenere stabile il footprint di calcolo e sviluppare nuove funzionalità.
- Come LinkedIn differisce dalla strategia di Microsoft?
- LinkedIn non espande l'infrastruttura come Microsoft, ma punta sull'efficienza.
LinkedIn ha annunciato che non incrementerà significativamente la spesa per hardware AI nel prossimo anno fiscale. L’investimento in GPU rimarrà stabile, mentre l’impronta di calcolo e storage sarà mantenuta invariata. Questa decisione si basa su un aumento dell’efficienza delle GPU esistenti, ottenuto attraverso miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro.
Erran Berger, CTO di LinkedIn, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo, pur introducendo funzionalità più esigenti dal punto di vista computazionale. Questo approccio si differenzia dalla strategia di espansione infrastrutturale di Microsoft, che ha registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, con l’aggiunta di numerosi data center.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, poi sospeso nel 2022, optando per data center propri in Oregon, Texas e Virginia. Il controllo dell’intero stack tecnologico è visto come un vantaggio strategico, permettendo di ottimizzare ogni livello e trattare l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura di LinkedIn, ha sottolineato che mantenere invariati storage e compute per un anno è stato un compito impegnativo, reso possibile da miglioramenti accumulati. Questi includono un migliore utilizzo delle GPU, la riallocazione dei carichi e la distillazione di modelli più grandi in versioni più piccole.
La scelta di LinkedIn rappresenta un’alternativa alla crescita proporzionale dell’hardware, con la sua sostenibilità che dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.