Die deutsche Sprachversion wurde als Serviceleistung für Sie durch maschinelle Übersetzung erstellt. Bei eventuellen Unstimmigkeiten hat die englische Sprachversion Vorrang.
NVA-1172-DESIGN: NetApp AIPod mit Lenovo für NVIDIA OVX
Beitragende
Änderungen vorschlagen
PDFs
Bobby Oomen, Abhinav Singh, Roney Daniel, NetApp
Diese Referenzarchitektur kombiniert NVIDIA-zertifizierte OVX Lenovo ThinkSystem-Server mit NVIDIA L40S-GPUs und NVIDIA Spectrum-Netzwerken, um eine optimale Infrastrukturlösung für die Optimierung und Bereitstellung von LLMs (Large Language Models) zu bieten. Ziel dieses Dokuments ist es, Anleitungen zum Speicher für eine OVX-Konfiguration bereitzustellen. Diese Plattform ist für verschiedene generative KI-Workloads geeignet, darunter RAG (Retrieval Augmented Generation), Feinabstimmung und Leichtbau-Modelle.