NVIDIA CEO Jensen Huang ha recentemente descritto in dettaglio l’ultimo chip acceleratore di AI dell’azienda, chiamato Blackwell, durante il keynote del Computex 2024.
Con Blackwell, NVIDIA punta a consolidare il proprio dominio nel fiorente settore dell’hardware per l’intelligenza artificiale.
Con una capitalizzazione di mercato dell’azienda che sta correndo verso la soglia dei 3.000 miliardi di dollari, l’ascesa di NVIDIA al comando supremo dell’infrastruttura AI è stata a dir poco sorprendente.
Huang non vede alcun segno di stallo nei progressi, poiché l’azienda continua a superare le aspettative degli analisti.
Ma cosa ci dicono davvero le specifiche e i numeri sulle capacità e sul potenziale impatto di Blackwell?
Diamo un’occhiata più da vicino a come potrebbe influire sul settore dell’intelligenza artificiale e sulla società in generale.
Potenza di calcolo grezza
Il dato principale è che un singolo “superchip ” Blackwell – composto da due GPU collegate da un link ad alta velocità – contiene ben 208 miliardi di transistor.
Si tratta di un aumento di quasi 3 volte rispetto alla precedente generazione di chip Hopper di NVIDIA. NVIDIA sostiene che questo si traduce in un aumento di velocità di 30 volte nelle attività di inferenza AI rispetto a Hopper.
Per mettere questo dato in prospettiva, consideriamo un esempio di modello linguistico di grandi dimensioni con 100 miliardi di parametri, una scala simile a GPT-3.
L’addestramento di un modello di questo tipo con le GPU A100 di precedente generazione di NVIDIA richiederebbe circa 1.024 chip A100 in funzione per un mese.
Con Blackwell, NVIDIA sostiene che lo stesso modello potrebbe essere addestrato in poco più di una settimana utilizzando 256 chip Blackwell – una riduzione di 4 volte del tempo di addestramento.
Efficienza energetica
Nonostante i notevoli guadagni in termini di prestazioni, NVIDIA afferma che Blackwell può ridurre i costi e il consumo energetico fino a 25 volte rispetto a Hopper per alcuni carichi di lavoro di intelligenza artificiale.
L’azienda ha fornito l’esempio dell’addestramento di un modello da 1,8 trilioni di parametri, che in precedenza avrebbe richiesto 8.000 GPU Hopper con 15 megawatt di potenza.
Con Blackwell, NVIDIA afferma che questo risultato potrebbe essere raggiunto con 2.000 GPU che assorbono solo 4 megawatt.
Sebbene un consumo di 4 megawatt per una singola sessione di addestramento dell’intelligenza artificiale sia ancora notevole, è impressionante che Blackwell sia in grado di fornire un aumento di quasi 4 volte dell’efficienza energetica per un compito così impegnativo.
Costi ambientali
Tuttavia, anche con una migliore efficienza energetica, l’adozione diffusa di Blackwell potrebbe aumentare in modo significativo il consumo energetico complessivo dei sistemi di intelligenza artificiale.
Ad esempio, ipotizziamo che attualmente in tutto il mondo vengano utilizzate 100.000 GPU ad alte prestazioni per l’addestramento e l’inferenza dell’IA.
Se Blackwell consente di aumentare di 10 volte l’adozione dell’IA nei prossimi anni, il che non sembra una cifra straordinaria da infilare in uno spillo, ciò significherebbe 1 milione di GPU Blackwell in uso.
Alla potenza di 1,875 kilowatt per GPU citata da Huang, 1 milione di GPU Blackwell consumerebbe 1,875 gigawatt di energia – quasi la produzione di due centrali nucleari medie.
Analisi precedenti hanno previsto che i carichi di lavoro dell’IA potrebbero consumare una quantità di energia pari a quella di un piccolo paese entro il 2027.
Anche il consumo di acqua è un problema importante: Microsoft ha rivelato un enorme aumento del consumo di acqua dal 2022 al 2023, correlato all’addestramento dei modelli di IA e alla domanda dei data center.
Senza trovare modi migliori per far funzionare l’hardware dell’IA da fonti rinnovabili, le emissioni di carbonio e il consumo di acqua dell’IA alimentata da Blackwell saranno enormi.
Oltre al consumo di energia, è fondamentale considerare altri costi ambientali, come i minerali di terre rare e altre risorse necessarie per produrre chip avanzati come Blackwell su scala e i rifiuti generati quando raggiungono la fine del loro ciclo di vita.
Questo non vuol dire che i benefici sociali delle capacità di intelligenza artificiale sbloccate da Blackwell non possano superare questi costi ambientali, come Huang e altri leader tecnologici sono certi.
Ma significa che l’impatto ambientale dovrà essere gestito e mitigato con attenzione nell’ambito di qualsiasi piano di implementazione responsabile di Blackwell, e c’è un punto interrogativo persistente sulla possibilità di farlo.
Il potenziale impatto di Blackwell
Quindi, come potrebbe essere il mondo in un’epoca di adozione diffusa di Blackwell?
Alcune stime di massima danno un’idea delle possibilità e dei rischi:
- Modelli linguistici di dimensioni 10 volte superiori a GPT-3 potrebbero essere addestrati in un lasso di tempo simile e utilizzando una quantità di risorse informatiche simile a quella di GPT-3. Ciò consentirà di fare un grande balzo in avanti nelle capacità di intelligenza artificiale del linguaggio naturale.
- Come descritto durante il keynote, gli assistenti digitali con capacità simili a quelle umane potrebbero potenzialmente diventare economicamente convenienti da sviluppare e distribuire su larga scala. Un’intelligenza artificiale in grado di gestire l’80% dei compiti di un tipico lavoro di conoscenza a un decimo del costo di un lavoratore umano potrebbe sostituire fino a 45 milioni di posti di lavoro nei soli Stati Uniti.
- La capacità computazionale di addestrare un sistema di IA con un’intelligenza generale pari o superiore a quella del cervello umano potrebbe essere a portata di mano. Le stime sulla capacità di calcolo del cervello vanno da 10^13 a 10^16 connessioni neurali. Un supercomputer alimentato da Blackwell e dotato di 1 milione di GPU avrebbe una capacità di calcolo stimata in 10^18 flops, potenzialmente sufficiente a simulare aspetti del cervello umano in tempo reale.
Naturalmente, si tratta di scenari altamente speculativi e devono essere presi con un granello di sale. La fattibilità tecnica non si traduce necessariamente in un’implementazione nel mondo reale.
Tuttavia, evidenziano l’enorme e dirompente potenziale dell’accelerazione dell’intelligenza artificiale che NVIDIA sta abilitando con Blackwell.
Huang ha descritto Blackwell come “una nuova piattaforma di computing per una nuova era del computing” Sulla base dei numeri, è difficile discutere questa caratterizzazione.
Blackwell sembra pronto a inaugurare la prossima fase della rivoluzione dell’intelligenza artificiale, nel bene e nel male.
Per quanto le specifiche del chip siano impressionanti, la società avrà bisogno di qualcosa di più delle innovazioni hardware per affrontare le implicazioni della tecnologia.
Anche un’attenta considerazione dell’impatto ambientale e gli sforzi per mitigarlo devono far parte dell’equazione.
Anche se i chip stanno diventando sempre più efficienti dal punto di vista energetico, questo da solo probabilmente non basterà a sostenere gli attuali progressi.
