Grazie alle comprovate prestazioni di elaborazione di NVIDIA DGX SuperPOD, unite alle funzionalità di sicurezza dei dati, governance dei dati e multi-tenancy leader del settore di NetApp, i clienti possono implementare l'infrastruttura più efficiente e agile per i carichi di lavoro di nuova generazione. Questo documento descrive l'architettura di alto livello e le funzionalità principali che aiutano i clienti a ridurre i tempi di commercializzazione e il ritorno sull'investimento per le iniziative di intelligenza artificiale e apprendimento automatico.

NVIDIA DGX SuperPOD offre una soluzione di data center AI chiavi in ​​mano per le organizzazioni, offrendo senza soluzione di continuità elaborazione di livello mondiale, strumenti software, competenze e innovazione continua. DGX SuperPOD offre ai clienti tutto ciò di cui hanno bisogno per distribuire carichi di lavoro AI/ML e HPC con tempi di configurazione minimi e massima produttività. La figura 1 mostra i componenti di alto livello di DGX SuperPOD.

Figura 1) NVIDIA DGX SuperPOD con sistemi di storage NetApp AFF A90 .

DGX SuperPOD offre i seguenti vantaggi:

Con l'adozione da parte delle organizzazioni di iniziative di intelligenza artificiale (IA) e apprendimento automatico (ML), la domanda di soluzioni infrastrutturali solide, scalabili ed efficienti non è mai stata così elevata. Al centro di queste iniziative c'è la sfida di gestire e addestrare modelli di intelligenza artificiale sempre più complessi, garantendo al contempo la sicurezza dei dati, l'accessibilità e l'ottimizzazione delle risorse.  L'evoluzione dell'intelligenza artificiale agentiva e i requisiti di addestramento dei modelli sofisticati hanno creato richieste senza precedenti in termini di infrastrutture di calcolo e di archiviazione. Le organizzazioni devono ora gestire enormi set di dati, supportare più carichi di lavoro di formazione simultanei e mantenere ambienti di elaborazione ad alte prestazioni, garantendo al contempo la protezione dei dati e la conformità alle normative. Le soluzioni infrastrutturali tradizionali spesso faticano a soddisfare queste esigenze, causando inefficienze operative e ritardi nel time-to-value dei progetti di intelligenza artificiale.  Questa soluzione offre i seguenti vantaggi chiave:

DGX SuperPOD si basa sul concetto di unità scalabile (SU) che comprende 32 sistemi DGX B200 e tutti gli altri componenti necessari per fornire la connettività richiesta ed eliminare eventuali colli di bottiglia nelle prestazioni dell'infrastruttura. I clienti possono iniziare con una o più SU e aggiungerne altre in base alle proprie esigenze. Questo documento descrive la configurazione di archiviazione per una singola SU e la Tabella 1 mostra i componenti necessari per configurazioni più grandi.

L'architettura di riferimento DGX SuperPOD comprende più reti e il sistema di archiviazione AFF A90 è collegato a molte di esse. Per ulteriori informazioni sulla rete DGX SuperPOD, fare riferimento ahttps://docs.nvidia.com/dgx-superpod/reference-architecture-scalable-infrastructure-b200/latest/abstract.html[" Architettura di riferimento NVIDIA DGX SuperPOD "] .

Per questa soluzione, la struttura di archiviazione ad alte prestazioni è una rete Ethernet basata sullo switch NVIDIA Spectrum SN5600 con 64 porte da 800 Gb in una configurazione Spine/Leaf. La rete in-band fornisce all'utente l'accesso ad altre funzioni, quali directory home e condivisioni di file generali, ed è anch'essa basata sugli switch SN5600, mentre la rete out-of-band (OOB) è destinata all'accesso dell'amministratore di sistema a livello di dispositivo mediante switch SN2201.

La struttura di archiviazione è un'architettura leaf-spine in cui i sistemi DGX si collegano a una coppia di switch leaf e il sistema di archiviazione si collega a un'altra coppia di switch leaf. Vengono utilizzate più porte da 800 Gb per collegare ogni switch leaf a una coppia di switch spine, creando più percorsi ad alta larghezza di banda attraverso la rete per ottenere prestazioni aggregate e ridondanza. Per la connettività al sistema di archiviazione AFF A90 , ogni porta da 800 Gb viene suddivisa in quattro porte da 200 Gb utilizzando gli appositi cavi breakout in rame o ottici. Per supportare i client che montano il sistema di archiviazione con NFS su RDMA, la struttura di archiviazione è configurata per RDMA su Converged Ethernet (RoCE), che garantisce la distribuzione di pacchetti senza perdite nella rete. La figura 3 mostra la topologia della rete di storage di questa soluzione.

Figura 3) Topologia della struttura di archiviazione.

Il sistema di storage NetApp AFF A90 è uno chassis 4RU contenente 2 controller che funzionano come partner ad alta disponibilità (HA Pair) l'uno per l'altro, con un massimo di 48 dischi a stato solido (SSD) da 2,5 pollici. Ogni controller è collegato a entrambi gli switch leaf di storage SN5600 tramite quattro connessioni Ethernet da 200 Gb e su ogni porta fisica sono presenti 2 interfacce IP logiche. Il cluster di archiviazione supporta NFS v4.1 con Parallel NFS (pNFS), che consente ai client di stabilire connessioni direttamente a ogni controller nel cluster. Inoltre, il trunking di sessione combina le prestazioni di più interfacce fisiche in un'unica sessione, consentendo anche ai carichi di lavoro single-threaded di accedere a una larghezza di banda di rete maggiore di quella possibile con il bonding Ethernet tradizionale. La combinazione di tutte queste funzionalità con RDMA consente al sistema di storage AFF A90 di offrire bassa latenza e throughput elevato con scalabilità lineare per i carichi di lavoro che sfruttano NVIDIA GPUDirect Storage™.

Per la connettività alla rete in-band, i controller AFF A90 dispongono di interfacce Ethernet da 200 Gb aggiuntive configurate in un gruppo di interfacce LACP che forniscono servizi NFS v3 e v4 generali, nonché accesso S3 ai file system condivisi, se desiderato. Tutti i controller e gli switch del cluster di storage sono connessi alla rete OOB per l'accesso amministrativo remoto.

Per consentire elevate prestazioni e scalabilità, i controller di storage formano un cluster di storage che consente di combinare tutte le prestazioni e la capacità dei nodi del cluster in un unico namespace denominato FlexGroup , con dati distribuiti sui dischi di ogni nodo del cluster. Grazie alla nuova funzionalità Granular Data Distribution rilasciata in ONTAP 9.16.1, i singoli file vengono separati e distribuiti nel FlexGroup per consentire i massimi livelli di prestazioni per i carichi di lavoro a file singolo. La Figura 4 sottostante mostra come pNFS e il trunking delle sessioni NFS interagiscono con FlexGroups e GDD per consentire l'accesso parallelo a file di grandi dimensioni sfruttando ogni interfaccia di rete e disco nel sistema di archiviazione.

Figura 4) pNFS, troncamento delle sessioni, FlexGroups e GDD.

Questa soluzione sfrutta più Storage Virtual Machine (SVM) per ospitare volumi sia per l'accesso allo storage ad alte prestazioni sia per le directory home degli utenti e altri artefatti del cluster su una SVM di gestione. Ogni SVM è configurato con interfacce di rete e volumi FlexGroup e viene implementata una politica QoS per garantire le prestazioni della Data SVM. Per ulteriori informazioni su FlexGroups, Storage Virtual Machines e funzionalità ONTAP QoS, fare riferimento a " Documentazione ONTAP " .

Questa soluzione di storage è stata convalidata in più fasi da NetApp e NVIDIA per garantire che prestazioni e scalabilità soddisfino i requisiti di NVIDIA DGX SuperPOD. La configurazione è stata convalidata utilizzando una combinazione di carichi di lavoro sintetici e carichi di lavoro ML/DL reali per verificare sia le massime prestazioni sia l'interoperabilità delle applicazioni. Nella tabella 3 sottostante sono riportati esempi di carichi di lavoro tipici e dei relativi requisiti di dati comunemente riscontrabili nelle distribuzioni DGX SuperPOD.

Tabella 3) Esempi di carico di lavoro SuperPOD.

Nella tabella 4 sono riportate le linee guida sulle prestazioni per i carichi di lavoro di esempio sopra riportati. Questi valori rappresentano la capacità di archiviazione che può essere generata da questi carichi di lavoro in condizioni ideali.

Tabella 4) Linee guida sulle prestazioni del DGX SuperPOD.

NVIDIA DGX SuperPOD con i sistemi di storage NetApp * AFF A90 * rappresenta un significativo progresso nelle soluzioni infrastrutturali AI. Affrontando le principali sfide legate a sicurezza, gestione dei dati, utilizzo delle risorse e scalabilità, consente alle organizzazioni di accelerare le proprie iniziative di intelligenza artificiale mantenendo al contempo efficienza operativa, protezione dei dati e collaborazione. L'approccio integrato della soluzione elimina i comuni colli di bottiglia nelle pipeline di sviluppo dell'intelligenza artificiale, consentendo a data scientist e ingegneri di concentrarsi sull'innovazione anziché sulla gestione dell'infrastruttura.

Per saperne di più sulle informazioni descritte nel presente documento, consultare i seguenti documenti e/o siti web: