LinkedIn: Investimenti in GPU Stabili per il Prossimo Anno Fiscale
LinkedIn annuncia che non aumenterà significativamente la spesa per hardware AI, mantenendo gli investimenti in GPU stabili per il prossimo anno fiscale.
In Breve
- Qual è la previsione di LinkedIn per gli investimenti in GPU?
- LinkedIn prevede di mantenere invariati gli investimenti in GPU per il prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a miglioramenti nell'utilizzo e nell'allocazione dei carichi di lavoro.
- Qual è l'approccio di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio più conservativo rispetto all'espansione infrastrutturale di Microsoft.
LinkedIn ha recentemente comunicato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’azienda ha confermato che l’investimento in GPU rimarrà sostanzialmente invariato, mantenendo un’impronta di calcolo e storage pressoché stabile.
Secondo quanto riportato, LinkedIn ha raddoppiato l’efficienza delle GPU esistenti in circa sei mesi. Questo risultato è stato raggiunto grazie a miglioramenti cumulativi nell’utilizzo delle GPU, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. L’azienda intende utilizzare questo margine operativo per sviluppare nuove funzionalità, piuttosto che investire in nuovo hardware.
Erran Berger, CTO dell’ingegneria, ha descritto l’obiettivo di LinkedIn come la capacità di mantenere stabile il footprint di calcolo, pur introducendo funzionalità più esigenti dal punto di vista computazionale. Questo approccio si distingue nettamente da quello di Microsoft, che controlla LinkedIn dal 2016 e ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari, con l’aggiunta di 31 nuovi data center nel solo ultimo trimestre.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da quel momento, l’azienda ha deciso di investire in data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore abilitante, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere la stessa capacità di storage e calcolo per un anno senza incrementi rappresenta «non una piccola impresa» e ha richiesto un impegno significativo. I miglioramenti ottenuti sono frutto di un approccio strategico che include un migliore utilizzo delle GPU, una riallocazione dei carichi di lavoro, la distillazione di modelli più complessi in versioni più piccole e una riprogettazione del lavoro tra training, inference, storage e progettazione dei sistemi.
Questa scelta è anche motivata dalla crescente dinamica dei costi: il costo per singola query è aumentato, mentre la quantità di dati immagazzinati raddoppia ogni anno, una tendenza che LinkedIn ha giudicato insostenibile. Tuttavia, l’azienda non afferma di aver risolto definitivamente il problema; piuttosto, questa strategia rappresenta un’alternativa alla tendenza prevalente di crescita proporzionale dell’hardware. La sua efficacia dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.
