La versione in lingua italiana fornita proviene da una traduzione automatica. Per eventuali incoerenze, fare riferimento alla versione in lingua inglese.
NVA-1172-DESIGN: FlexPod NetApp con Lenovo per NVIDIA OVX
Collaboratori
Suggerisci modifiche
Bobby Oommen, Abhinav Singh, Roney Daniel, NetApp
Questa architettura di riferimento abbina i server Lenovo ThinkSystem certificati NVIDIA OVX, basati su GPU NVIDIA L40S, con la connettività di rete NVIDIA Spectrum per fornire una soluzione di infrastruttura ottimale per ottimizzare e distribuire LLMS (modelli in lingue grandi). Lo scopo di questo documento è fornire indicazioni relative all'archiviazione di una configurazione OVX. Questa piattaforma è adatta a vari workload ai generici, tra cui RAG (Retrieval Augmented Generation), fine-tuning e training sui modelli leggeri.