La version française est une traduction automatique. La version anglaise prévaut sur la française en cas de divergence.
NVA-1172-DESIGN : NetApp AIPod avec Lenovo pour NVIDIA OVX
Contributeurs
Suggérer des modifications
Bobby Oommen, Abhinav Singh, Roney Daniel, NetApp
Cette architecture de référence associe des serveurs ThinkSystem OVX Lenovo certifiés NVIDIA, optimisés par des processeurs graphiques NVIDIA L40S, à la mise en réseau NVIDIA Spectrum afin de fournir une solution d'infrastructure optimale pour optimiser et déployer les LLMS (modèles grand langage). Le but de ce document est de fournir des conseils sur le stockage d'une configuration OVX. Cette plateforme convient à plusieurs charges de travail Generative ai, notamment RAG (Retrieval Augmented Generation), le réglage précis et l'entraînement de modèles légers.