Nous avons utilisé un processeur Intel Xeon D-2123IT, qui est le niveau de CPU le plus bas pris en charge dans SE350, avec quatre cœurs physiques et 60 W TDP. Bien que le serveur ne prend pas en charge le remplacement des processeurs, il peut être commandé avec un processeur plus puissant. Le processeur le plus pris en charge est le processeur Intel Xeon D-2183IT avec 16 cœurs, 100 W fonctionnant à 2,20 GHz. Cela augmente considérablement la capacité de calcul du processeur. Bien que le processeur ne constitue pas un goulot d'étranglement pour l'exécution des workloads d'inférence eux-mêmes, il facilite le traitement des données et d'autres tâches liées à l'inférence. Actuellement, NVIDIA T4 est le seul GPU disponible pour les cas d'utilisation en périphérie. Il n'est donc pas possible de mettre à niveau ou de rétrograder le GPU.

À des fins de test et de validation, le système NetApp AFF C190, qui possède une capacité de stockage maximale de 50,5 To, un débit de 4,4 Gbit/s pour les lectures séquentielles et 230 000 IOPS pour les lectures aléatoires de petite taille, a été utilisé pour ce document. Il est prouvé qu'il est parfaitement adapté aux workloads d'inférence à la périphérie.

En revanche, si vous avez besoin de plus de capacité de stockage ou d'une vitesse réseau plus élevée, vous devez utiliser les systèmes de stockage NetApp AFF A220 ou NetApp AFF A250. Elle a également permis d'utiliser le système NetApp EF280, dont la capacité maximale est de 1,5 po et 10 Gbit/s de bande passante, pour cette validation. Si vous préférez davantage de capacité de stockage avec une bande passante plus élevée, "NetApp EF300" vous pouvez l'utiliser.