NVIDIA DGX SuperPOD 의 검증된 컴퓨팅 성능과 NetApp의 업계 최고 수준의 데이터 보안, 데이터 거버넌스 및 멀티 테넌시 기능을 결합하면 고객은 차세대 워크로드에 가장 효율적이고 민첩한 인프라를 구축할 수 있습니다. 이 문서에서는 고객이 AI/ML 이니셔티브에 대한 시장 출시 시간과 투자 수익률을 더 빠르게 달성하는 데 도움이 되는 고수준 아키텍처와 주요 기능에 대해 설명합니다.

NVIDIA DGX SuperPOD 기업을 위한 턴키 방식의 AI 데이터 센터 솔루션을 제공하여 세계적 수준의 컴퓨팅, 소프트웨어 도구, 전문 지식 및 지속적인 혁신을 원활하게 제공합니다. DGX SuperPOD는 고객이 최소한의 설정 시간과 최대의 생산성으로 AI/ML 및 HPC 워크로드를 배포하는 데 필요한 모든 것을 제공합니다. 그림 1은 DGX SuperPOD의 상위 수준 구성 요소를 보여줍니다.

그림 1) NetApp AFF A90 스토리지 시스템을 탑재한 NVIDIA DGX SuperPOD .

DGX SuperPOD는 다음과 같은 이점을 제공합니다.

기업들이 인공지능(AI)과 머신러닝(ML) 이니셔티브를 수용함에 따라, 견고하고 확장 가능하며 효율적인 인프라 솔루션에 대한 수요가 그 어느 때보다 커졌습니다. 이러한 이니셔티브의 핵심은 데이터 보안, 접근성, 리소스 최적화를 보장하는 동시에 점점 더 복잡해지는 AI 모델을 관리하고 교육하는 과제에 있습니다.  에이전트 AI의 발전과 정교한 모델 학습 요구 사항으로 인해 컴퓨팅 및 저장 인프라에 대한 요구 사항이 전례 없는 수준으로 높아졌습니다. 이제 조직에서는 방대한 데이터 세트를 처리하고, 여러 가지 동시 교육 워크로드를 지원하고, 데이터 보호와 규정 준수를 보장하는 동시에 고성능 컴퓨팅 환경을 유지해야 합니다. 기존 인프라 솔루션은 이러한 요구 사항을 충족하는 데 어려움을 겪는 경우가 많아 운영상의 비효율성과 AI 프로젝트의 가치 실현 시간이 지연됩니다.  이 솔루션은 다음과 같은 주요 이점을 제공합니다.

DGX SuperPOD는 32개의 DGX B200 시스템과 인프라의 성능 병목 현상을 제거하고 필요한 모든 기타 구성 요소를 포함하는 확장 가능 단위(SU) 개념을 기반으로 합니다. 고객은 하나 또는 여러 개의 SU로 시작하여 요구 사항을 충족하는 데 필요한 대로 추가 SU를 추가할 수 있습니다. 이 문서에서는 단일 SU에 대한 스토리지 구성을 설명하고, 표 1에서는 더 큰 규모의 구성에 필요한 구성 요소를 보여줍니다.

DGX SuperPOD 참조 아키텍처에는 여러 네트워크가 포함되어 있으며, AFF A90 스토리지 시스템은 그 중 여러 네트워크에 연결되어 있습니다. DGX SuperPOD 네트워킹에 대한 자세한 내용은 다음을 참조하세요.https://docs.nvidia.com/dgx-superpod/reference-architecture-scalable-infrastructure-b200/latest/abstract.html[" NVIDIA DGX SuperPOD 참조 아키텍처"] .

이 솔루션의 고성능 스토리지 패브릭은 스파인/리프 구성으로 64개의 800Gb 포트를 갖춘 NVIDIA Spectrum SN5600 스위치를 기반으로 하는 이더넷 네트워크입니다. 인밴드 네트워크는 홈 디렉토리, 일반 파일 공유 등의 다른 기능에 대한 사용자 액세스를 제공하며 SN5600 스위치를 기반으로 하고, 아웃오브밴드(OOB) 네트워크는 SN2201 스위치를 사용하는 장치 수준 시스템 관리자 액세스를 위한 것입니다.

스토리지 패브릭은 DGX 시스템이 한 쌍의 리프 스위치에 연결되고 스토리지 시스템이 다른 쌍의 리프 스위치에 연결되는 리프-스파인 아키텍처입니다. 여러 개의 800Gb 포트를 사용하여 각 리프 스위치를 한 쌍의 스파인 스위치에 연결하고, 네트워크를 통해 여러 개의 고대역폭 경로를 생성하여 전체 성능과 중복성을 제공합니다. AFF A90 스토리지 시스템에 연결하기 위해 각 800Gb 포트는 적절한 구리 또는 광 브레이크아웃 케이블을 사용하여 4개의 200Gb 포트로 나뉩니다. RDMA를 통한 NFS로 스토리지 시스템을 마운트하는 클라이언트를 지원하기 위해 스토리지 패브릭은 RoCE(RDMA over Converged Ethernet)에 맞게 구성되어 네트워크에서 손실 없는 패킷 전달을 보장합니다. 그림 3은 이 솔루션의 스토리지 네트워크 토폴로지를 보여줍니다.

그림 3) 스토리지 패브릭 토폴로지.

NetApp AFF A90 스토리지 시스템은 서로에 대한 고가용성 파트너(HA 쌍)로 작동하는 2개의 컨트롤러가 포함된 4RU 섀시로, 최대 48개의 2.5인치 폼 팩터 솔리드 스테이트 디스크(SSD)를 장착할 수 있습니다. 각 컨트롤러는 4개의 200Gb 이더넷 연결을 사용하여 두 개의 SN5600 스토리지 리프 스위치에 연결되며, 각 물리적 포트에는 2개의 논리적 IP 인터페이스가 있습니다. 스토리지 클러스터는 클라이언트가 클러스터의 모든 컨트롤러에 직접 연결을 설정할 수 있는 병렬 NFS(pNFS)를 갖춘 NFS v4.1을 지원합니다. 또한 세션 트렁킹은 여러 물리적 인터페이스의 성능을 단일 세션으로 결합하여 단일 스레드 워크로드도 기존 이더넷 본딩으로 가능한 것보다 더 많은 네트워크 대역폭에 액세스할 수 있게 합니다. 이러한 모든 기능을 RDMA와 결합함으로써 AFF A90 스토리지 시스템은 NVIDIA GPUDirect Storage™를 활용하는 워크로드에 대해 선형적으로 확장되는 낮은 지연 시간과 높은 처리량을 제공할 수 있습니다.

AFF A90 컨트롤러는 인밴드 네트워크에 연결하기 위해 LACP 인터페이스 그룹에 구성된 추가 200Gb 이더넷 인터페이스를 갖추고 있어 일반 NFS v3 및 v4 서비스는 물론 필요한 경우 공유 파일 시스템에 대한 S3 액세스도 제공합니다. 모든 컨트롤러와 스토리지 클러스터 스위치는 원격 관리 액세스를 위해 OOB 네트워크에 연결됩니다.

높은 성능과 확장성을 구현하기 위해 스토리지 컨트롤러는 클러스터 노드의 전체 성능과 용량을 FlexGroup 이라는 단일 네임스페이스로 결합하고, 데이터는 클러스터의 모든 노드 디스크에 분산되는 스토리지 클러스터를 형성합니다. ONTAP 9.16.1에서 출시된 새로운 Granular Data Distribution 기능을 사용하면 개별 파일을 FlexGroup 에 분리하여 분산시켜 단일 파일 워크로드에서 최고 수준의 성능을 구현할 수 있습니다. 아래의 그림 4는 pNFS와 NFS 세션 트렁킹이 FlexGroups와 GDD와 함께 작동하여 저장 시스템의 모든 네트워크 인터페이스와 디스크를 활용하여 대용량 파일에 대한 병렬 액세스를 가능하게 하는 방식을 보여줍니다.

그림 4) pNFS, 세션 트렁킹, FlexGroups 및 GDD.

이 솔루션은 여러 개의 스토리지 가상 머신(SVM)을 활용하여 고성능 스토리지 액세스와 사용자 홈 디렉토리 및 기타 클러스터 아티팩트에 대한 볼륨을 관리 SVM에서 호스팅합니다. 각 SVM은 네트워크 인터페이스와 FlexGroup 볼륨으로 구성되며, QoS 정책이 구현되어 Data SVM의 성능을 보장합니다. FlexGroups, Storage Virtual Machines 및 ONTAP QoS 기능에 대한 자세한 내용은 다음을 참조하세요. " ONTAP 문서 " .

이 스토리지 솔루션은 NetApp 과 NVIDIA 에서 여러 단계에 걸쳐 검증을 거쳐 NVIDIA DGX SuperPOD 의 성능과 확장성이 요구 사항을 충족하는지 확인되었습니다. 최대 성능과 애플리케이션 상호 운용성을 검증하기 위해 합성 워크로드와 실제 ML/DL 워크로드를 조합하여 구성을 검증했습니다. 아래 표 3은 DGX SuperPOD 배포에서 일반적으로 나타나는 일반적인 작업 부하와 해당 데이터 요구 사항의 예를 보여줍니다.

표 3) SuperPOD 워크로드 예시.

표 4는 위의 예제 워크로드에 대한 성능 지침을 보여줍니다. 이러한 값은 이상적인 조건에서 이러한 작업 부하로 생성될 수 있는 저장 처리량을 나타냅니다.

표 4) DGX SuperPOD 성능 지침.

NetApp * AFF A90 스토리지 시스템*을 탑재한 NVIDIA DGX SuperPOD AI 인프라 솔루션 분야에서 상당한 발전을 나타냅니다. 보안, 데이터 관리, 리소스 활용, 확장성과 관련된 주요 과제를 해결함으로써 조직은 운영 효율성, 데이터 보호, 협업을 유지하면서 AI 이니셔티브를 가속화할 수 있습니다. 이 솔루션의 통합적 접근 방식은 AI 개발 파이프라인에서 흔히 발생하는 병목 현상을 제거하여 데이터 과학자와 엔지니어가 인프라 관리가 아닌 혁신에 집중할 수 있도록 합니다.

이 문서에 설명된 정보에 대해 자세히 알아보려면 다음 문서 및/또는 웹사이트를 검토하세요.