Wir haben eine Intel Xeon D-2123IT CPU mit vier physischen Kernen und 60 W TDP verwendet, die in SE350 die niedrigste CPU-Stufe unterstützt. Der Server unterstützt zwar keinen Austausch von CPUs, kann aber mit einer leistungsstärkeren CPU bestellt werden. Die wichtigste unterstützte CPU ist Intel Xeon D-2183IT mit 16 Kernen, 100 W mit 2,20 GHz. Dadurch erhöht sich die CPU-Rechenleistung erheblich. Während die CPU keinen Engpass mehr für die Ausführung der Inferenz-Workloads darstellt, hilft sie bei der Datenverarbeitung und anderen Vorgänge im Zusammenhang mit Inferenz. Derzeit ist NVIDIA T4 die einzige GPU für Edge-Anwendungsfälle und ist daher derzeit keine Möglichkeit, die GPU zu aktualisieren oder herunterzustufen.

Das NetApp AFF C190 System mit einer maximalen Storage-Kapazität von 50,5 TB, einem Durchsatz von 4,4 GB/s bei sequenziellem Lesen und 230.000 IOPS für kleine zufällige Lesevorgänge wurde in diesem Dokument eingesetzt. Es hat sich als gut für Edge-Inferenz-Workloads erwiesen.

Wenn Sie jedoch mehr Storage-Kapazität oder schnellere Netzwerkgeschwindigkeiten benötigen, sollten Sie das NetApp AFF A220 oder "NetApp AFF A250" Storage-Systeme. Außerdem wurde das NetApp EF280 System mit einer maximalen Kapazität von 1,5 PB und einer Bandbreite von 10 GB/s im Rahmen dieser Lösungsvalidierung ebenfalls verwendet. Wenn Sie mehr Storage-Kapazität mit höherer Bandbreite bevorzugen, "NetApp EF300" Kann verwendet werden.