NVA-1173 NetApp AIPod mit NVIDIA DGX Systemen – Hardwarekomponenten
Der Abschnitt konzentriert sich auf die Hardwarekomponenten des NetApp AIPod mit NVIDIA DGX Systemen.
NetApp AFF Storage-Systeme
Mit den hochmodernen Storage-Systemen von NetApp AFF können IT-Abteilungen die Enterprise-Storage-Anforderungen mit branchenführender Performance, überlegener Flexibilität, Cloud-Integration und erstklassigem Datenmanagement erfüllen. AFF Systeme wurden speziell für Flash entwickelt. Sie helfen geschäftskritische Daten zu beschleunigen, zu managen und zu schützen.
AFF A90 Storage-Systeme
Die NetApp AFF A90 mit NetApp ONTAP Datenmanagement-Software bietet integrierte Datensicherung, optionale Funktionen zum Schutz vor Ransomware sowie die hohe Performance und Ausfallsicherheit, die zur Unterstützung der wichtigsten Geschäfts-Workloads erforderlich sind. Es verhindert Unterbrechungen geschäftskritischer Abläufe, minimiert Performance-Tuning und schützt Ihre Daten vor Ransomware-Angriffen. Die Lösung bietet: • Branchenführende Performance • kompromisslose Datensicherheit • vereinfachte, unterbrechungsfreie Upgrades
NetApp AFF A90 Storage-System
Erstklassige Performance
Die AFF A90 managt problemlos Workloads der nächsten Generation wie Deep Learning, KI und Hochgeschwindigkeitsanalysen sowie herkömmliche Unternehmensdatenbanken wie Oracle, SAP HANA, Microsoft SQL Server und virtualisierte Applikationen. Geschäftskritische Applikationen werden mit bis zu 2,4 Mio. IOPS pro HA-Paar und Latenz von bis zu 100µs Höchstgeschwindigkeit ausgeführt. Die Performance steigt im Vergleich zu früheren NetApp Modellen um bis zu 50 %. Mit NFS over RDMA, pNFS und Session Trunking können Kunden mithilfe der vorhandenen Netzwerkinfrastruktur des Datacenters ein hohes Maß an Netzwerk-Performance für Applikationen der nächsten Generation erreichen. Einheitliche Multiprotokoll-Unterstützung für SAN-, NAS- und Objekt-Storage für Skalierung und Wachstum sowie maximale Flexibilität dank einheitlicher, einzelner ONTAP Datenmanagement-Software für Daten vor Ort oder in der Cloud Zudem kann der Systemzustand mit KI-basierten prädiktiven Analysen von Active IQ und Cloud Insights optimiert werden.
Kompromisslose Datensicherheit
AFF A90 Systeme enthalten die komplette Suite an integrierter und applikationskonsistenter Datensicherungssoftware von NetApp. Sie bietet integrierte Datensicherung und innovative Anti-Ransomware-Lösungen zur Vorbeugung und Wiederherstellung nach einem Angriff. Schädliche Dateien können nicht jemals auf Festplatte geschrieben werden. Anomalien im Storage werden einfach überwacht, um Erkenntnisse zu gewinnen.
Vereinfachte Unterbrechungsfreie Upgrades
Das AFF A90 ist bei bestehenden A800 Kunden als unterbrechungsfreies Upgrade im Chassis erhältlich. Mit den RASM-Funktionen (Advanced Reliability, Verfügbarkeit, Wartungsfreundlichkeit und Management) von NetApp können Sie Störungen geschäftskritischer Betriebsabläufe ganz einfach aktualisieren. NetApp steigert darüber hinaus die betriebliche Effizienz und vereinfacht tägliche Aufgaben für IT-Teams, da die ONTAP Software automatisch Firmware-Updates für alle Systemkomponenten anwendet.
Für die größten Implementierungen bieten AFF A1K Systeme höchste Performance- und Kapazitätsoptionen, während andere NetApp Storage-Systeme wie AFF A70 und AFF C800 Optionen für kleinere Implementierungen zu geringeren Kosten bieten.
NVIDIA DGX BasePOD
NVIDIA DGX BasePOD ist eine integrierte Lösung, die aus NVIDIA Hardware- und Softwarekomponenten, MLOps-Lösungen und Storage von Drittanbietern besteht. Unter Nutzung von Best Practices im Scale-out-Systemdesign mit NVIDIA Produkten und validierten Partnerlösungen können Kunden eine effiziente und einfach zu managende Plattform für die KI-Entwicklung implementieren. Abbildung 1 zeigt die verschiedenen Komponenten von NVIDIA DGX BasePOD.
NVIDIA DGX BasePOD Solution
NVIDIA DGX H100-SYSTEME
Das NVIDIA DGX H100™-System ist das KI-Kraftpaket, das durch die bahnbrechende Performance der NVIDIA H100 Tensor Core GPU beschleunigt wird.
NVIDIA DGX H100-SYSTEM
Die wichtigsten Spezifikationen des DGX H100 Systems sind: • Acht NVIDIA H100 GPUs. • 80 GB GPU-Speicher pro GPU, insgesamt 640 GB. • Vier NVIDIA NVSwitch™-Chips. • Intel® Xeon® Platinum 8480 Dualcore-Prozessoren mit 56 Kernen und PCIe 5.0-Unterstützung. • 2 TB DDR5-Systemspeicher. • Vier OSFP-Ports für acht NVIDIA ConnectX- und#174;-7-Adapter (InfiniBand/Ethernet) und zwei NVIDIA ConnectX-7-Adapter (InfiniBand/Ethernet) mit zwei Ports. • Zwei M.2-NVMe-Laufwerke mit 1.92 TB für DGX OS, acht U.2-NVMe-Laufwerke mit 3.84 TB für Storage/Cache. • 10.2 kW maximale Leistung. Die hinteren Ports des DGX H100 CPU-Einschublade sind unten dargestellt. Vier der OSFP-Ports bedienen acht ConnectX-7-Adapter für die InfiniBand Computing-Fabric. Jedes Paar ConnectX-7-Adapter mit zwei Ports bietet parallele Pfade zu den Speicher- und Management Fabrics. Der Out-of-Band-Port wird für den BMC-Zugriff verwendet.
NVIDIA DGX H100-Rückwand
NVIDIA Networking
NVIDIA Quantum-2 QM9700-Switch
NVIDIA Quantum-2 QM9700 InfiniBand Switch
NVIDIA Quantum-2 QM9700 Switches mit InfiniBand-Konnektivität von 400 GB/s versorgen das Computing-Fabric in NVIDIA Quantum-2 InfiniBand BasePOD Konfigurationen. ConnectX-7 Single-Port-Adapter werden für die InfiniBand Computing-Fabric verwendet. Jedes NVIDIA DGX System verfügt über duale Verbindungen zu jedem QM9700 Switch und liefert damit mehrere Pfade mit hoher Bandbreite und niedriger Latenz zwischen den Systemen.
NVIDIA Spectrum-3 SN4600-Switch
NVIDIA Spectrum-3 SN4600-Switch
NVIDIA Spectrum ™-3 SN4600-Switches bieten insgesamt 128 Ports (64 pro Switch) für redundante Konnektivität zum bandinternen Management von DGX BasePOD. Der NVIDIA SN4600-Switch kann für Geschwindigkeiten zwischen 1 GbE und 200 GbE sorgen. Bei über Ethernet verbundenen Storage Appliances kommen darüber hinaus die NVIDIA SN4600-Switches zum Einsatz. Die Ports der NVIDIA DGX Dual-Port ConnectX-7-Adapter werden sowohl für die bandinterne Verwaltung als auch für die Storage-Konnektivität verwendet.
NVIDIA Spectrum SN2201-Switch
NVIDIA Spectrum SN2201-Switch
NVIDIA Spectrum SN2201-Switches bieten 48 Anschlüsse für die Out-of-Band-Verwaltung. Das Out-of-Band-Management bietet konsolidierte Managementkonnektivität für alle Komponenten in DGX BasePOD.
NVIDIA ConnectX-7-Adapter
NVIDIA ConnectX-7-Adapter
Der NVIDIA ConnectX-7-Adapter bietet einen Durchsatz von 25/50/100/200 G. NVIDIA DGX Systeme verwenden sowohl den Single- als auch den Dual-Port ConnectX-7-Adapter, um die Flexibilität von DGX BasePOD-Implementierungen mit 400 GB/s InfiniBand und Ethernet zu erhöhen.