Skip to main content
NetApp artificial intelligence solutions
本繁體中文版使用機器翻譯,譯文僅供參考,若與英文版本牴觸,應以英文版本為準。

架構規模選項

貢獻者 kevin-hoke

您可以調整用於驗證的設定以適合其他用例。

計算伺服器

我們使用了 Intel Xeon D-2123IT CPU,這是 SE350 支援的最低等級的 CPU,具有四個實體核心和 60W TDP。雖然該伺服器不支援更換 CPU,但可以訂購功能更強大的 CPU。支援的最高 CPU 是 Intel Xeon D-2183IT,16 核,100W,運行頻率為 2.20GHz。這大大提高了CPU的運算能力。雖然 CPU 本身並不是運行推理工作負載的瓶頸,但它有助於資料處理和其他與推理相關的任務。目前, NVIDIA T4 是唯一可用於邊緣用例的 GPU;因此,目前無法升級或降級 GPU。

共享儲存

為了進行測試和驗證,本文檔使用了NetApp AFF C190系統,該系統的最大儲存容量為 50.5TB,順序讀取的吞吐量為 4.4GBps,小型隨機讀取的吞吐量為 230K IOPS,事實證明它非常適合邊緣推理工作負載。

但是,如果您需要更大的儲存容量或更快的網路速度,則應該使用NetApp AFF A220或NetApp AFF A250儲存系統。此外,最大容量1.5PB、頻寬10GBps的NetApp EF280系統也被用於此解決方案的驗證。如果您希望擁有更大的儲存容量和更高的頻寬, "NetApp EF300"可以使用。