In Breve
- Qual è la previsione di LinkedIn per gli investimenti in GPU?
- LinkedIn non prevede di aumentare significativamente la spesa per hardware AI nel prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a miglioramenti nell'utilizzo e nella gestione dei carichi di lavoro.
- Qual è la posizione di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio diverso rispetto all'espansione infrastrutturale di Microsoft, mantenendo stabile il proprio footprint di calcolo.
LinkedIn ha comunicato che per il prossimo anno fiscale non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale (AI). L’investimento in GPU rimarrà sostanzialmente invariato, con l’intenzione di mantenere l’impronta di calcolo e storage pressoché stabile. Questa scelta è motivata da un raddoppio dell’efficienza delle GPU esistenti, ottenuto in circa sei mesi grazie a miglioramenti cumulativi nell’utilizzo delle risorse e nella gestione dei carichi di lavoro.
Erran Berger, CTO per l’ingegneria di LinkedIn, ha spiegato che l’obiettivo è quello di mantenere un footprint di calcolo stabile, pur introducendo nuove funzionalità che richiedono maggiori risorse computazionali. Questo approccio si distingue da quello di Microsoft, che controlla LinkedIn dal 2016 e ha recentemente registrato spese in conto capitale per 41 miliardi di dollari, con l’aggiunta di 31 nuovi data center solo nell’ultimo trimestre.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, ma questo è stato sospeso nel 2022. Attualmente, la società si affida a data center propri situati in Oregon, Texas e Virginia. Avere il controllo completo dell’intero stack tecnologico è considerato un fattore chiave per ottimizzare le prestazioni e garantire un’efficienza continua.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere il livello di storage e calcolo senza incrementi per un anno è un risultato significativo, frutto di un lavoro considerevole. I miglioramenti raggiunti non sono il risultato di una singola innovazione tecnologica, ma piuttosto di un insieme di strategie: un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, e la distillazione di modelli più complessi in versioni più leggere.
Questa strategia è stata anche influenzata dalla dinamica dei costi, poiché il costo per singola query continuava a crescere mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma la scelta di non aumentare gli investimenti in hardware rappresenta un’alternativa alla crescente espansione delle risorse, la cui efficacia dipenderà dalla capacità di mantenere nel tempo questo programma di efficienza.