Decine di migliaia di GPU NVIDIA, NVIDIA Quantum-2 InfiniBand e stack completo di software NVIDIA AI in arrivo su Azure; NVIDIA, Microsoft e Global Enterprises utilizzeranno la piattaforma per lo sviluppo e l'implementazione dell'IA in modo rapido ed economico.
NVIDIA ha annunciato una collaborazione pluriennale con Microsoft per creare uno dei supercomputer IA più potenti al mondo, alimentato dall'infrastruttura di supercalcolo avanzata di Microsoft Azure combinata con GPU NVIDIA, networking e stack completo di software IA per aiutare le aziende a formare, implementare e ridimensionare IA, inclusi modelli grandi e all'avanguardia.
Il supercomputer IA basato su cloud di Azure include macchine virtuali potenti e scalabili serie ND e NC ottimizzate per l'addestramento distribuito e l'inferenza IA.
È il primo cloud pubblico a incorporare lo stack AI avanzato di NVIDIA, aggiungendo alla sua piattaforma decine di migliaia di GPU NVIDIA A100 e H100, il networking InfiniBand NVIDIA Quantum-2 400Gb/s e la suite di software NVIDIA AI Enterprise.
Nell'ambito della collaborazione, NVIDIA utilizzerà le istanze di macchine virtuali scalabili di Azure per ricercare e accelerare ulteriormente i progressi nell'IA generativa, un'area dell'IA in rapida espansione in cui modelli fondamentali come Megatron Turing NLG 530B sono la base per algoritmi di autoapprendimento senza supervisione per creare nuovo testo, codice, immagini digitali, video o audio.
Le aziende collaboreranno anche per ottimizzare il software di ottimizzazione del deep learning DeepSpeed di Microsoft. Lo stack completo di flussi di lavoro IA e kit di sviluppo software di NVIDIA, ottimizzati per Azure, sarà reso disponibile ai clienti aziendali di Azure.
I progressi della tecnologia AI e l'adozione da parte del settore stanno accelerando. La svolta dei modelli di base ha innescato un'ondata di ricerca, promosso nuove startup e abilitato nuove applicazioni aziendali.
La nostra collaborazione di NVIDIA con Microsoft fornirà a ricercatori e aziende infrastrutture e software IA all'avanguardia per capitalizzare il potere di trasformazione dell'IA".
L'intelligenza artificiale sta alimentando la prossima ondata di automazione tra le imprese e l'informatica industriale, consentendo alle organizzazioni di fare di più con meno mentre affrontano le incertezze economiche.
La nostra collaborazione tra Microsoft e NVIDIA sblocca la piattaforma di supercomputer più scalabile al mondo, che offre funzionalità di intelligenza artificiale all'avanguardia per ogni azienda su Microsoft Azure.
Prestazioni di picco scalabili con NVIDIA Compute e Quantum-2 InfiniBand su Azure
Le istanze di macchine virtuali ottimizzate per l'intelligenza artificiale di Microsoft Azure sono progettate con le GPU per data center più avanzate di NVIDIA e sono le prime istanze di cloud pubblico a incorporare la rete NVIDIA Quantum-2 400Gb/s InfiniBand. I clienti possono implementare migliaia di GPU in un singolo cluster per addestrare anche i più grandi modelli di linguaggi di grandi dimensioni, creare i sistemi di raccomandazione più complessi su larga scala e abilitare l'IA generativa su larga scala.
Le attuali istanze di Azure sono dotate di rete NVIDIA Quantum 200Gb/s InfiniBand con GPU NVIDIA A100. Quelli futuri saranno integrati con la rete InfiniBand NVIDIA Quantum-2 400Gb/s e le GPU NVIDIA H100. In combinazione con l'infrastruttura cloud di elaborazione avanzata, la rete e l'archiviazione di Azure, queste offerte ottimizzate per l'intelligenza artificiale forniranno prestazioni di picco scalabili per carichi di lavoro di inferenza di formazione e deep learning di qualsiasi dimensione.
Accelerazione dello sviluppo e dell'implementazione dell'IA
Inoltre, la piattaforma supporterà un'ampia gamma di applicazioni e servizi AI, tra cui Microsoft DeepSpeed e la suite software NVIDIA AI Enterprise.
Microsoft DeepSpeed sfrutterà NVIDIA H100 Transformer Engine per accelerare i modelli basati su trasformatore utilizzati per modelli di linguaggi di grandi dimensioni, intelligenza artificiale generativa e scrittura di codice per computer, tra le altre applicazioni.
Questa tecnologia applica funzionalità di precisione in virgola mobile a 8 bit a DeepSpeed per accelerare notevolmente i calcoli AI per i trasformatori, con un throughput doppio rispetto alle operazioni a 16 bit.
NVIDIA AI Enterprise, il software adottato a livello globale della piattaforma NVIDIA AI, è certificato e supportato su istanze Microsoft Azure con GPU NVIDIA A100. Il supporto per le istanze di Azure con GPU NVIDIA H100 verrà aggiunto in una futura versione del software.
NVIDIA AI Enterprise, che include NVIDIA Riva per i framework applicativi di sicurezza informatica NVIDIA Riva for speech AI e NVIDIA Morpheus, semplifica ogni fase del flusso di lavoro AI, dall'elaborazione dei dati e la formazione del modello AI alla simulazione e all'implementazione su larga scala.
INFO: https://nvidianews.nvidia.com