Présentation de la technologie
Cette section décrit la base technologique de cette solution d'IA.
Systèmes NetApp AFF
Les systèmes de stockage NetApp AFF de pointe permettent les déploiements d'inférence d'IA à la périphérie de répondre aux besoins de stockage des entreprises avec les meilleures performances du secteur, la flexibilité supérieure, l'intégration au cloud et une gestion de données optimale. Conçues spécifiquement pour les systèmes Flash, les AFF NetApp contribuent à accélérer, gérer et protéger les données stratégiques.
-
Les systèmes de stockage NetApp AFF d'entrée de gamme sont basés sur du matériel FAS2750 et sur les disques SSD Flash
-
Deux contrôleurs en configuration haute disponibilité
Les fonctionnalités des systèmes de stockage AFF C190 d'entrée de gamme de NetApp sont les suivantes :
-
Le nombre maximal de disques SSD 24 x 960 Go
-
Deux configurations possibles :
-
Ethernet (10GbE) : 4 ports 10GBASE-T (RJ-45)
-
Unifié (FC 16 Gb ou 10 GbE) : 4 ports UTA2 (adaptateur « Unified Target » 2)
-
-
Un maximum de 50,5 To de capacité effective
Pour les workloads NAS, un seul système AFF C190 d'entrée de gamme prend en charge un débit de 4,4 Gbit/s pour les lectures séquentielles, et 230 000 IOPS pour les lectures aléatoires de petite taille à des latences inférieures ou inférieures à 1 ms.
Avec AFF A220
NetApp propose également d'autres systèmes de stockage d'entrée de gamme qui offrent des performances et une évolutivité supérieures pour les déploiements à plus grande échelle. Pour les charges de travail NAS, un système AFF A220 unique d'entrée de gamme prend en charge :
-
Débit de 6,2 Gbit/s pour les lectures séquentielles
-
375 000 IOPS pour les lectures aléatoires de petite taille à des latences inférieures ou inférieures à 1 ms.
-
Le nombre maximum de disques de 144 SSD de 960 Go, de 3,8 To ou 7,6 To
-
AFF A220 évolue jusqu'à plus de 1 po de capacité effective
NetApp AFF A250
-
La capacité effective maximale est de 35 po avec une évolutivité scale-out maximale de 2-24 nœuds (12 paires HA)
-
Offre une augmentation ≥ 45 % des performances par rapport à AFF A220
-
440 000 IOPS en lectures aléatoires à 1 ms.
-
Basé sur la dernière version de NetApp ONTAP : ONTAP 9.8
-
Exploite deux Ethernet 25 Gb pour la haute disponibilité et l'interconnexion de clusters
Baies NetApp E-Series EF
La gamme EF-Series est une gamme de baies de stockage SAN d'entrée de gamme et de milieu de gamme. Elles accélèrent l'accès à vos données et vous permettent de les valoriser plus rapidement grâce au logiciel NetApp SANtricity. Proposant un stockage Flash NVMe et SAS, ces systèmes incluent des IOPS exceptionnelles, des temps de réponse inférieurs à 100 microsecondes et 44 Gbit/s de bande passante. Ils sont ainsi parfaitement adaptés aux workloads mixtes et aux applications exigeantes telles que l'inférence d'IA et le calcul haute performance (HPC).
La figure suivante montre la baie de stockage NetApp EF280.
NetApp EF280
-
Prise en charge des protocoles FC 32 Gb/16 Gb, iSCSI 25 Gb/10 Gb et SAS 12 Gb
-
La capacité effective maximale est de 96 disques totalisant 1,5 po
-
Débit de 10 Gbit/s (lectures séquentielles)
-
300 000 IOPS (lectures aléatoires)
-
La baie NetApp EF280 est la baie 100 % Flash la moins chère du portefeuille NetApp
NetApp EF300
-
24 disques SSD NVMe pour une capacité totale de 367 To
-
Vous pouvez étendre des options d'extension au total 240 disques durs NL-SAS, 96 disques SSD SAS, ou une combinaison
-
NVMe/IB 100 Gb, NVMe/RoCE, iser/IB et SRP/IB
-
NVME/FC 32 GB, FCP
-
ISCSI 25 Gb
-
20 Gbit/s (lectures séquentielles)
-
670 000 IOPS (lectures aléatoires)
Pour plus d'informations, reportez-vous à la section "Fiche technique des baies 100 % Flash NetApp EF-Series EF600, F300, EF570 et EF280". |
NetApp ONTAP 9
ONTAP 9.8.1, la dernière génération de logiciel de gestion du stockage de NetApp, permet aux entreprises de moderniser l'infrastructure et de passer à un data Center prêt pour le cloud. Avec des capacités de gestion des données à la pointe du secteur, ONTAP permet de gérer et de protéger les données avec un seul ensemble d'outils, quel que soit leur emplacement. Vous pouvez aussi déplacer vos données librement partout où elles sont nécessaires : la périphérie, le cœur ou le cloud. ONTAP 9.8.1 comprend de nombreuses fonctionnalités qui simplifient la gestion des données, accélèrent et protègent les données stratégiques, et permettent d'utiliser des fonctionnalités d'infrastructure nouvelle génération dans toutes les architectures de cloud hybride.
Gestion simplifiée
La gestion des données est essentielle pour les opérations IT, car elle permet d'utiliser les ressources appropriées pour les applications et les jeux de données. ONTAP inclut les fonctionnalités suivantes pour rationaliser et simplifier les opérations et réduire le coût total d'exploitation :
-
La compaction des données à la volée et la déduplication étendue la compaction des données réduit le gaspillage d'espace dans les blocs de stockage, et la déduplication augmente considérablement la capacité effective. Cela s'applique aux données stockées localement et à leur placement dans le cloud.
-
Les contrôles de qualité de service (AQoS) granulaires (minimum, maximum et adaptative). les contrôles de qualité de service (QoS) aident à maintenir les niveaux de performance des applications critiques dans des environnements hautement partagés.
-
NetApp FabricPool cette fonctionnalité permet une hiérarchisation automatique des données inactives vers des options de stockage en cloud public et privé, notamment Amazon Web Services (AWS), Azure et NetApp StorageGRID. Pour plus d'informations sur FabricPool, voir "TR-4598".
Accélération et protection des données
ONTAP 9 offre des niveaux supérieurs de performances et de protection des données et étend ces fonctionnalités aux méthodes suivantes :
-
* Performances et latence plus faible.* ONTAP offre le débit le plus élevé possible à la latence la plus faible possible.
-
Protection des données. ONTAP fournit des fonctionnalités de protection des données intégrées avec une gestion commune sur toutes les plates-formes.
-
NetApp Volume Encryption (NVE). ONTAP offre le chiffrement natif au niveau du volume, avec prise en charge de la gestion des clés à la fois intégrée et externe.
-
Colocation et authentification multifactorielle. ONTAP permet de partager les ressources de l'infrastructure avec les niveaux de sécurité les plus élevés.
Une infrastructure pérenne
ONTAP 9 propose les fonctionnalités suivantes pour répondre aux besoins métier en constante évolution :
-
Évolutivité transparente et continuité de l'activité. ONTAP prend en charge l'ajout non disruptif de capacité aux contrôleurs et l'évolution scale-out des clusters. Les clients peuvent effectuer la mise à niveau vers les technologies les plus récentes, telles que NVMe et FC 32 Gb, sans migration des données ni panne coûteuse.
-
Connexion au cloud. ONTAP est le logiciel de gestion de stockage le plus connecté au cloud, avec des options de stockage Software-defined (ONTAP Select) et des instances natives de cloud (Google Cloud NetApp volumes) dans tous les clouds publics.
-
Intégration avec les applications émergentes ONTAP offre des services de données d'entreprise pour les plates-formes et applications de nouvelle génération, telles que les véhicules autonomes, les villes intelligentes et l'industrie 4.0, en utilisant la même infrastructure qui prend en charge les applications d'entreprise existantes.
NetApp SANtricity
Les systèmes SANtricity de NetApp offrent les meilleures performances, la fiabilité et la simplicité des baies 100 % Flash hybrides E-Series et EF-Series. Optimisez les performances et l'utilisation de vos baies 100 % Flash hybrides E-Series et EF-Series pour les applications nécessitant des charges de travail importantes, notamment l'analytique des données, la vidéosurveillance, et la sauvegarde et la restauration. Avec SANtricity, les tâches de configuration, de maintenance et d'extension de la capacité peuvent être effectuées en garantissant la disponibilité du système de stockage. SANtricity offre d'excellentes fonctionnalités de protection des données et de surveillance proactive, ainsi qu'une sécurité certifiée. System Manager, son interface intégrée, est facile d'emploi. Pour en savoir plus, consultez le "Logiciel SANtricity NetApp E-Series : Fiche technique".
Optimisation des performances
Le logiciel SANtricity combine d'excellentes performances, des IOPS élevées, un haut débit et une faible latence, pour l'analytique, la vidéosurveillance et les applications de sauvegarde. Accélérez les performances des applications à débit d'IOPS élevé et à faible latence, et celles des applications à large bande passante et à haut débit.
Disponibilité optimisée
Réalisez toutes vos tâches de gestion pendant que le stockage reste en ligne. Modifiez la configuration, effectuez la maintenance ou étendez la capacité de stockage sans interrompre les E/S. Bénéficiez d'une fiabilité exceptionnelle avec les fonctionnalités automatisées, la configuration en ligne, la technologie DPP (Dynamic Disk pools), et bien plus encore.
Travaillez en toute sérénité
Le logiciel SANtricity, qui respecte les normes de sécurité les plus strictes, offre d'excellentes fonctionnalités de protection des données et assure une surveillance proactive. System Manager, son interface intégrée, est facile d'emploi. Simplifiez les tâches courantes de gestion du stockage. Obtenez la flexibilité dont vous avez besoin pour un réglage ultra-précis de tous les systèmes de stockage E-Series. Gérez votre système NetApp E-Series grâce à Une interface web intégrée conçue pour simplifier vos workflows de gestion.
NetApp Trident
"Trident" À partir de NetApp, est un orchestrateur de stockage dynamique open source pour Docker et Kubernetes qui simplifie la création, la gestion et la consommation du stockage persistant. Trident, une application Kubernetes native, s'exécute directement dans un cluster Kubernetes. Trident permet de déployer de manière transparente des images de conteneur d'apprentissage profond sur un système de stockage NetApp et offre une expérience haute performance pour les déploiements de conteneurs d'IA. Les utilisateurs de Kubernetes (développeurs DE ML et data Scientists, par exemple) peuvent créer, gérer et automatiser l'orchestration et le clonage pour exploiter les fonctionnalités avancées de gestion de données de NetApp optimisées par la technologie NetApp.
Copie et synchronisation NetApp BlueXP
"Copie et synchronisation BlueXP" Est un service NetApp permettant une synchronisation sûre et rapide des données. Qu'il s'agisse de transférer des fichiers entre des partages de fichiers NFS ou SMB sur site, NetApp StorageGRID, NetApp ONTAP S3, Google Cloud NetApp volumes, Azure NetApp Files, Amazon simple Storage Service (Amazon S3), Amazon Elastic File System (Amazon EFS), Azure Blob, Google Cloud Storage ou IBM Cloud Object Storage, BlueXP Copy and Sync déplace les fichiers où vous en avez besoin rapidement et en toute sécurité. Une fois vos données transférées, elles peuvent être utilisées à la source et à la cible. BlueXP Copy and Sync synchronise en continu les données en fonction de votre calendrier prédéfini, en déplaçant uniquement les données modifiées. Le temps et l'argent consacrés à la réplication des données sont ainsi réduits. BlueXP Copy and Sync est un outil SaaS extrêmement simple à configurer et à utiliser. Les transferts de données déclenchés par la copie et la synchronisation BlueXP sont effectués par les courtiers de données. Vous pouvez déployer des courtiers de données BlueXP Copy and Sync dans AWS, Azure, Google Cloud Platform ou sur site.
Serveurs Lenovo ThinkSystem
Les serveurs Lenovo ThinkSystem sont dotés de matériel, de logiciels et de services innovants qui répondent aux défis actuels des clients et offrent une approche évolutive, adaptée et modulaire pour répondre aux défis de demain. Ces serveurs exploitent les meilleures technologies standard du secteur, associées à des innovations Lenovo différenciées, pour offrir la plus grande flexibilité possible aux serveurs x86.
Les principaux avantages du déploiement des serveurs Lenovo ThinkSystem sont les suivants :
-
Des conceptions modulaires extrêmement évolutives qui s'étendent à votre business
-
La résilience optimale du secteur pour économiser des heures de temps d'arrêt imprévus coûteux
-
Des technologies Flash rapides pour des latences plus faibles, des temps de réponse plus rapides et une gestion intelligente des données en temps réel
Dans le domaine de l'IA, Lenovo propose une approche pratique pour aider les entreprises à comprendre et à exploiter les avantages DU ML et de l'IA pour leurs workloads. Les clients Lenovo peuvent explorer et évaluer les offres d'IA de Lenovo dans les centres d'innovation d'IA de Lenovo afin de connaître pleinement la valeur de leur utilisation. Pour améliorer le retour sur investissement, cette approche axée sur le client permet aux clients de réaliser des démonstrations de faisabilité pour les plateformes de développement de solutions prêtes à l'emploi et optimisées pour l'IA.
Serveur Lenovo ThinkSystem SE350 Edge
Le Edge Computing permet aux données des terminaux IoT d'être analysées à la périphérie du réseau avant d'être envoyées vers le data Center ou le cloud. Le Lenovo ThinkSystem SE350, tel qu'illustré dans la figure ci-dessous, est conçu pour répondre aux exigences uniques de déploiement en périphérie, avec un accent sur la flexibilité, la connectivité, la sécurité et la téléadministration dans un format compact renforcé et résistant à l'environnement.
Doté d'un processeur Intel Xeon D avec la flexibilité nécessaire pour prendre en charge l'accélération des charges de travail Edge ai, le SE350 est conçu pour relever les défis de déploiement de serveurs dans divers environnements en dehors du centre de données.
Diminution des
MLPerf est une suite de banc d'essai leader du secteur pour évaluer les performances de l'IA. Il couvre de nombreux domaines de l'IA appliquée, notamment le classement des images, la détection des objets, l'imagerie médicale et le traitement du langage naturel (NLP). Dans cette validation, nous avons utilisé des charges de travail Inférence v0.7, qui est la dernière itération de l'Inférence MLPerf à la fin de cette validation. Le "Inférence MLPerf v0.7" la suite comprend quatre nouveaux bancs d'essai pour les systèmes de data center et de périphérie :
-
BERT. Encoder bidirectionnel représentation des transformateurs (BERT) affinée pour répondre aux questions en utilisant le jeu de données de l'équipe.
-
DLRM. le modèle de recommandation en apprentissage profond (DLRM) est un modèle de personnalisation et de recommandation qui est formé pour optimiser les taux de clics (CTR).
-
3D U-Net. l'architecture 3D U-Net est formée sur le dataset de segmentation de la tumeur cérébrale (brats).
-
RNN-T. transducteur de réseau neuronal récurrent (RNN-T) est un modèle de reconnaissance vocale automatique (ASR) qui est entraîné sur un sous-ensemble de LibriSpeech. Les résultats et le code MLPerf Inférence sont accessibles au public et publiés sous licence Apache. MLPerf Inférence possède une division Edge qui prend en charge les scénarios suivants :
-
Single stream. ce scénario imite les systèmes où la réactivité est un facteur critique, comme les requêtes ai hors ligne effectuées sur les smartphones. Les requêtes individuelles sont envoyées au système et les temps de réponse sont enregistrés. le résultat est une latence du 90e centile de toutes les réponses.
-
Multistream. ce banc d'essai est destiné aux systèmes qui traitent l'entrée à partir de plusieurs capteurs. Pendant le test, les requêtes sont envoyées à un intervalle de temps fixe. Une contrainte de QoS (latence maximale autorisée) est imposée. Le test indique le nombre de flux que le système peut traiter tout en respectant la contrainte QoS.
-
Hors ligne. c'est le scénario le plus simple pour les applications de traitement par lots et la mesure est le débit en échantillons par seconde. Toutes les données sont disponibles pour le système et le banc d'essai mesure le temps nécessaire pour traiter tous les échantillons.
Lenovo a publié les scores d'inférence MLPerf pour SE350 avec T4, le serveur utilisé dans ce document. Voir les résultats à "https://mlperf.org/inference-results-0-7/" Dans la section "Edge, Closed Division" de l'entrée 0.7-145.