本繁體中文版使用機器翻譯,譯文僅供參考,若與英文版本牴觸,應以英文版本為準。
NVA-1172 設計: NetApp AIPod 搭配 Lenovo for NVIDIA OVX
貢獻者
建議變更
Bobby Oommen , Abhinav Singh , Roney Daniel , NetApp
這種參考架構將 NVIDIA 認證的 OVF Lenovo ThinkSystem 伺服器搭配 NVIDIA L40S GPU ,搭配 NVIDIA Spectrum 網路,提供最佳化的基礎架構解決方案來最佳化及部署 LLMs (大語言模式)。本文件旨在提供有關 OVF 組態儲存的指引。此平台適用於各種泛型 AI 工作負載,包括 RAG (擷取擴增產生),微調和輕量模型訓練。