Secondo quanto riportato dalla testata Artificial Intelligence News, NVIDIA sta implementando la piattaforma Palantir Foundry e la libreria cuOpt per automatizzare le decisioni di allocazione della propria catena di fornitura hardware nei siti produttivi globali, rispondendo alla necessità di ottimizzare la logistica complessa delle nuove architetture per i data center.
L’azienda misura la propria efficienza operativa monitorando l’intero percorso che va dalla produzione dei wafer fino all’emissione del primo token da parte dei sistemi installati. Questo intervallo temporale si divide principalmente nel cosiddetto “time-to-rack”, ovvero il transito dai semiconduttori prodotti in fonderia all’assemblaggio del sistema, e nel “time-to-token”, che comprende la predisposizione di alimentazione, raffreddamento, reti e software. La rapida escalation della potenza hardware ha tuttavia reso più stringenti i vincoli di fornitura: basti pensare che un singolo rack NVIDIA Grace Blackwell NVL72 integra 18 moduli di calcolo, ognuno dei quali richiede due CPU Grace, quattro GPU Blackwell e 32 pacchetti di memoria HBM3e distribuiti tra migliaia di fornitori e partner produttivi. La futura rete creata per l’architettura Vera Rubin sarà persino due volte più estesa.
Ottimizzazione matematica avanzata con cuOpt
Per gestire le inevitabili attese dei componenti dovute a consegne sfalsate tra inventario diretto, merci in conto deposito e fornitori esterni, NVIDIA ha sviluppato il centro di comando “Digital Supply Chain Intelligence” integrato in Palantir Foundry. Attraverso l’ontologia di Foundry, le strutture, gli stock e gli obiettivi di produzione vengono modellati come entità interconnesse. La libreria open-source cuOpt analizza direttamente questo livello operativo, formulando i problemi di distribuzione come programmi lineari a variabili miste intere con l’obiettivo di ridurre i tempi di stazionamento dei materiali e identificare in tempo reale i colli di bottiglia produttivi.
L’integrazione di dati qualitativi con Nemotron
L’ottimizzazione pura, tuttavia, non permetteva di considerare variabili operative non strutturate come le trascrizioni delle chiamate con i fornitori, le previsioni meteo locali, le e-mail dei partner e gli eventi geopolitici. Per risolvere questo limite, il team di ingegneria ha eseguito un post-addestramento sul modello Nemotron 3.5 Lightning. Il processo di elaborazione dei dati sfrutta NeMo Anonymizer per proteggere le informazioni sensibili, NeMo Data Designer per bilanciare i campioni con scenari sintetici e NeMo AutoModel per applicare l’adattamento a basso rango (LoRA), coordinando il tutto tramite Palantir Autopilot.
Risultati operativi e sviluppi futuri
Sui dati storici di allocazione, il modello Nemotron 3.5 Lightning ottimizzato ha raggiunto un’accuratezza decisionale dell’86,7%, a fronte del 55,5% evidenziato dalla versione Nemotron 3 Ultra e del 17,5% del modello base non calibrato. Il fine-tuning è stato completato in pochi minuti su due GPU NVIDIA B200. Le decisioni prese dai pianificatori umani e i risultati effettivi delle fabbriche vengono continuamente registrati per alimentare routine di apprendimento per rinforzo, mantenendo comunque i modelli attivi in produzione isolati da aggiornamenti automatici e non supervisionati.
