In Breve
- Qual è la previsione di LinkedIn per la spesa in GPU?
- LinkedIn non prevede di aumentare significativamente la spesa per hardware AI nel prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti in sei mesi grazie a miglioramenti nell'utilizzo e nell'allocazione dei carichi di lavoro.
- Qual è l'approccio di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio diverso rispetto alla consistente espansione infrastrutturale di Microsoft.
LinkedIn ha comunicato che nel prossimo anno fiscale non prevede di aumentare significativamente la spesa per hardware dedicato all’intelligenza artificiale. L’investimento in GPU rimarrà sostanzialmente stabile, così come l’impronta di calcolo e storage dell’azienda.
La società ha riferito di aver raddoppiato l’efficienza delle GPU esistenti in un arco di sei mesi, grazie a miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. Questo margine operativo sarà impiegato per lo sviluppo di nuove funzionalità, piuttosto che per l’acquisto di nuovo hardware.
Erran Berger, CTO dell’ingegneria, ha descritto l’obiettivo di LinkedIn come quello di mantenere stabile il footprint di calcolo, pur introducendo funzionalità più esigenti dal punto di vista computazionale.
Questa strategia si colloca in un contesto più ampio, in cui LinkedIn è sotto il controllo di Microsoft dal 2016. Tuttavia, l’approccio della piattaforma professionale sembra differire da quello del colosso tecnologico, che ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, con l’aggiunta di 31 nuovi data center e 88 nell’anno precedente.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, l’azienda ha deciso di concentrarsi su data center propri situati in Oregon, Texas e Virginia. Avere il controllo completo dell’intero stack tecnologico è considerato un fattore chiave, in quanto consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariati storage e compute per un anno è «non una piccola impresa» e ha richiesto un notevole impegno. I miglioramenti ottenuti sono frutto di un approccio cumulativo, piuttosto che di una singola innovazione tecnologica. Tra le strategie adottate vi sono un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più complessi in versioni più piccole e una riprogettazione della divisione dei compiti tra training, inference, storage e progettazione dei sistemi.
Questa scelta è stata influenzata anche dalla dinamica dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma la sua strategia rappresenta un’alternativa alla tendenza generale di crescita proporzionale dell’hardware. La sua efficacia dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.
