Se proporciona el idioma español mediante traducción automática para su comodidad. En caso de alguna inconsistencia, el inglés precede al español.
NVA-1172-DESIGN: NetApp AIPod con Lenovo para NVIDIA OVX
Colaboradores
Sugerir cambios
Bobby Oommen, Abhinav Singh, Roney Daniel, NetApp
Esta arquitectura de referencia combina los servidores OVX Lenovo ThinkSystem certificados por NVIDIA, impulsados por GPU NVIDIA L40S, con redes NVIDIA Spectrum para proporcionar una solución de infraestructura óptima para optimizar e implementar LLMs (modelos de lenguaje grande). El objetivo de este documento es proporcionar orientación sobre el almacenamiento de una configuración OVX. Esta plataforma es adecuada para varias cargas de trabajo de IA generativas, como RAG (Retrieval Augmented Generation), el ajuste y el entrenamiento de modelos ligeros.