Die deutsche Sprachversion wurde als Serviceleistung für Sie durch maschinelle Übersetzung erstellt. Bei eventuellen Unstimmigkeiten hat die englische Sprachversion Vorrang.
NVA-1172-DESIGN: NetApp AIPod mit Lenovo für NVIDIA OVX
Bobby Oommen, Abhinav Singh, Roney Daniel, NetApp
Diese Referenzarchitektur kombiniert NVIDIA-zertifizierte OVX Lenovo ThinkSystem-Server, die von NVIDIA L40S-GPUs angetrieben werden, mit NVIDIA Spectrum-Netzwerken, um eine optimale Infrastrukturlösung zur Optimierung und Bereitstellung von LLMs (Large Language Models) bereitzustellen. Der Zweck dieses Dokuments besteht darin, eine Anleitung zum Speicher für eine OVX-Konfiguration bereitzustellen. Diese Plattform eignet sich für verschiedene generative KI-Workloads, einschließlich RAG (Retrieval Augmented Generation), Feinabstimmung und leichtes Modelltraining.