Skip to main content
NetApp artificial intelligence solutions
La version française est une traduction automatique. La version anglaise prévaut sur la française en cas de divergence.

Procédure de test

Contributeurs kevin-hoke
PDF

Cette section décrit les procédures de test utilisées pour valider cette solution.

Configuration du système d'exploitation et de l'inférence de l'IA

Pour AFF C190, nous avons utilisé Ubuntu 18.04 avec les pilotes NVIDIA et Docker avec prise en charge des GPU NVIDIA et utilisé MLPerf "code" disponible dans le cadre de la soumission de Lenovo à MLPerf Inference v0.7.

Pour EF280, nous avons utilisé Ubuntu 20.04 avec les pilotes NVIDIA et Docker avec prise en charge des GPU NVIDIA et MLPerf "code" disponible dans le cadre de la soumission de Lenovo à MLPerf Inference v1.1.

Pour configurer l’inférence de l’IA, suivez ces étapes :

  1. Téléchargez les ensembles de données nécessitant une inscription, l'ensemble de validation ImageNet 2012, l'ensemble de données Criteo Terabyte et l'ensemble de formation BraTS 2019, puis décompressez les fichiers.

  2. Créez un répertoire de travail d'au moins 1 To et définissez une variable d'environnement MLPERF_SCRATCH_PATH se référant au répertoire.

    Vous devez partager ce répertoire sur le stockage partagé pour le cas d'utilisation du stockage réseau, ou sur le disque local lors des tests avec des données locales.

  3. Exécutez la marque prebuild commande, qui construit et lance le conteneur Docker pour les tâches d'inférence requises.

    Remarque Les commandes suivantes sont toutes exécutées à partir du conteneur Docker en cours d'exécution :

    • Téléchargez des modèles d'IA pré-entraînés pour les tâches d'inférence MLPerf : make download_model

    • Téléchargez des ensembles de données supplémentaires téléchargeables gratuitement : make download_data

    • Prétraiter les données : faire preprocess_data

    • Courir: make build .

    • Créez des moteurs d'inférence optimisés pour le GPU dans les serveurs de calcul : make generate_engines

    • Pour exécuter des charges de travail d’inférence, exécutez la commande suivante (une seule commande) :

make run_harness RUN_ARGS="--benchmarks=<BENCHMARKS> --scenarios=<SCENARIOS>"

Les inférences de l'IA s'exécutent

Trois types d'exécutions ont été exécutées :

  • Inférence IA sur serveur unique utilisant le stockage local

  • Inférence IA sur serveur unique utilisant le stockage réseau

  • Inférence IA multi-serveurs utilisant le stockage réseau