Skip to main content
NetApp artificial intelligence solutions
简体中文版经机器翻译而成,仅供参考。如与英语版出现任何冲突,应以英语版为准。

架构规模选项

贡献者 kevin-hoke

您可以调整用于验证的设置以适合其他用例。

计算服务器

我们使用了 Intel Xeon D-2123IT CPU,这是 SE350 支持的最低级别的 CPU,具有四个物理核心和 60W TDP。虽然该服务器不支持更换 CPU,但可以订购功能更强大的 CPU。支持的最高 CPU 是 Intel Xeon D-2183IT,16 核,100W,运行频率为 2.20GHz。这大大提高了CPU的计算能力。虽然 CPU 本身并不是运行推理工作负载的瓶颈,但它有助于数据处理和其他与推理相关的任务。目前, NVIDIA T4 是唯一可用于边缘用例的 GPU;因此,目前无法升级或降级 GPU。

共享存储

为了进行测试和验证,本文档使用了NetApp AFF C190系统,该系统的最大存储容量为 50.5TB,顺序读取的吞吐量为 4.4GBps,小型随机读取的吞吐量为 230K IOPS,事实证明它非常适合边缘推理工作负载。

但是,如果您需要更大的存储容量或更快的网络速度,则应该使用NetApp AFF A220或NetApp AFF A250存储系统。此外,最大容量1.5PB、带宽10GBps的NetApp EF280系统也被用于该解决方案的验证。如果您希望拥有更大的存储容量和更高的带宽, "NetApp EF300"可以使用。