In Breve
- Qual è la previsione di LinkedIn per l'investimento in GPU?
- LinkedIn prevede di mantenere invariato l'investimento in GPU per il prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a miglioramenti nell'utilizzo e nella gestione dei carichi di lavoro.
- Qual è l'approccio di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio diverso rispetto a Microsoft, evitando una significativa espansione infrastrutturale.
LinkedIn ha annunciato che non prevede di aumentare significativamente la spesa per hardware AI nel prossimo anno fiscale, mantenendo l’investimento in GPU sostanzialmente invariato. La società ha riferito di aver raddoppiato l’efficienza delle GPU esistenti in sei mesi, grazie a miglioramenti nell’utilizzo delle risorse e nell’allocazione dei carichi di lavoro. Questo margine operativo sarà impiegato per sviluppare nuove funzionalità anziché per l’acquisto di nuovo hardware.
Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo pur introducendo funzionalità più esigenti dal punto di vista computazionale. Questa strategia si colloca in un contesto in cui LinkedIn è controllata da Microsoft dal 2016, ma adotta un approccio diverso rispetto all’espansione infrastrutturale del colosso tecnologico, che ha registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. La società ha quindi deciso di puntare su data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore chiave per monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariati storage e compute per un anno è un obiettivo ambizioso che ha richiesto notevoli sforzi. I miglioramenti ottenuti sono frutto di un accumulo di innovazioni piuttosto che di una singola svolta tecnologica, comprendendo un migliore utilizzo delle GPU e una riprogettazione della divisione del lavoro tra training e storage.
LinkedIn ha riconosciuto che la dinamica dei costi è una sfida, con il costo per singola query in aumento mentre la quantità di dati immagazzinati raddoppiava ogni anno. Sebbene la società non affermi di aver risolto definitivamente il problema, la sua scelta rappresenta un’alternativa alle tendenze di crescita proporzionale dell’hardware, la cui sostenibilità dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.
