LinkedIn mantiene stabile l’investimento in GPU per il prossimo anno fiscale

LinkedIn ha annunciato che non prevede di aumentare significativamente la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente invariato, così come l’impronta di calcolo e storage della piattaforma. Questa decisione è il risultato di un notevole miglioramento nell’efficienza delle GPU esistenti, raddoppiata in soli sei mesi grazie a ottimizzazioni nell’utilizzo, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro.

Erran Berger, CTO per l’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo mentre si introducono nuove funzionalità che richiedono maggiori risorse computazionali. Questa strategia si inserisce in un contesto in cui LinkedIn, controllata da Microsoft dal 2016, adotta un approccio differente rispetto alla massiccia espansione infrastrutturale del colosso tecnologico. Microsoft ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari, aggiungendo 31 data center nell’ultimo trimestre e 88 nell’anno, con previsioni di oltre 50 miliardi per il trimestre corrente.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da quel momento, la società ha deciso di investire in data center di proprietà situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore chiave, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariato il storage e il compute per un anno è un traguardo significativo, frutto di un lavoro considerevole. I miglioramenti sono stati il risultato di un approccio cumulativo e non di una singola innovazione tecnologica. Tra le strategie adottate ci sono un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più complessi in versioni più compatte e una riprogettazione della divisione dei compiti tra training, inference, storage e progettazione dei sistemi.

Questa scelta è stata motivata anche dalla crescente dinamica dei costi: il costo per singola query era in aumento mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. Sebbene LinkedIn non affermi di aver risolto definitivamente il problema, la sua strategia rappresenta un’alternativa alla tendenza generale di crescita proporzionale dell’hardware. La sostenibilità di questo approccio dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.