La demande en intelligence artificielle générative (IA) génère des perturbations dans tous les secteurs, ce qui favorise la créativité commerciale et l'innovation produit. De nombreuses entreprises utilisent l'IA générative pour créer de nouvelles fonctionnalités, améliorer la productivité de l'ingénierie et créer des prototypes d'applications basés sur l'IA qui offrent de meilleurs résultats et expériences client. L'IA générative, telle que Generative Pre-entrainés Transformers (GPT), utilise des réseaux neuronaux pour créer de nouveaux contenus aussi divers que du texte, de l'audio et de la vidéo. Étant donné l'ampleur extrême et les jeux de données massifs impliqués dans les grands modèles de langage (LLMS), il est essentiel de concevoir une infrastructure d'IA robuste qui tire parti des puissantes fonctionnalités de stockage des données des options de déploiement sur site, hybride et multicloud et réduit les risques associés à la mobilité des données. protection et gouvernance des données avant que les entreprises ne puissent concevoir des solutions d'IA. Ce livre blanc présente ces considérations et les fonctionnalités NetApp® ai correspondantes qui permettent une gestion transparente des données et un déplacement fluide des données dans le pipeline de traitement de données d'IA pour l'entraînement, le recyclage, le réglage fin et l'inférence des modèles d'IA génératifs.

Plus récemment, après le lancement de ChatGPT, un spin-off de GPT-3 en novembre 2022, de nouveaux outils d'IA utilisés pour générer du texte, du code, de l'image, ou même des protéines thérapeutiques en réponse aux invites de l'utilisateur ont acquis une renommée significative. Cela indique que les utilisateurs peuvent faire une demande en utilisant le langage naturel. L'IA interprète et génère du texte, par exemple des articles d'actualité ou des descriptions de produits qui reflètent les demandes de l'utilisateur ou produisent du code, de la musique, de la parole, des effets visuels et des ressources 3D à l'aide d'algorithmes entraînés sur des données déjà existantes. En conséquence, des expressions telles que diffusion stable, hallucinations, ingénierie rapide et alignement de la valeur apparaissent rapidement dans la conception des systèmes d'IA. Ces modèles de machine learning (ML) autosupervisés ou semi-supervisés deviennent largement disponibles sous forme de modèles de base pré-entraînés (FM) via des fournisseurs de services cloud et d'autres fournisseurs de firmwares d'IA. Ces modèles sont adoptés par divers établissements d'entreprises de tous secteurs pour un large éventail de tâches de traitement du langage naturel (TLN) en aval. Comme l'a affirmé des sociétés d'analyse de recherche telles que McKinsey, « l'impact de l'IA générative sur la productivité pourrait ajouter des milliards de dollars à l'économie mondiale. » Si les entreprises réinventent l'IA en tant que partenaires d'opinion pour l'homme et que le FMS s'élargit simultanément à ce que les entreprises et les institutions peuvent faire avec l'IA générative, les opportunités de gestion de volumes massifs de données vont continuer de croître. Nous présentons dans ce document des informations d'introduction à l'IA générative et les concepts de conception relatifs aux fonctionnalités NetApp qui apportent de la valeur aux clients NetApp, dans les environnements sur site et hybrides ou multicloud.

Que contient NetApp dans leurs environnements d'IA ? NetApp aide les entreprises à faire face aux complexités liées à la croissance rapide des données et du cloud, à la gestion multicloud et à l'adoption de technologies nouvelle génération, telles que l'IA. NetApp a combiné diverses fonctionnalités à un logiciel de gestion intelligente des données et à une infrastructure de stockage parfaitement équilibrées. Les solutions d'IA génératives telles que les LLMS doivent à plusieurs reprises lire et traiter leurs datasets sources depuis le stockage vers la mémoire afin de favoriser l'intelligence. NetApp a été l'un des leaders des technologies de mobilité, de gouvernance et de sécurité des données dans l'écosystème périphérie/cœur/cloud, pour aider les entreprises à créer des solutions d'IA à grande échelle. Avec un solide réseau de partenaires, NetApp aide les Chief Data Officer, les ingénieurs d'IA, les architectes d'entreprise et les data Scientists à concevoir un pipeline de données fluide pour la préparation et la protection des données, et des responsabilités stratégiques en matière de gestion des données pour l'entraînement des modèles d'IA et l'inférence, afin d'optimiser les performances et l'évolutivité du cycle de vie d'IA et de ML. Les technologies et fonctionnalités de données NetApp telles que le pipeline de données NetApp® ONTAP ai® pour le deep learning, NetApp® SnapMirror® pour le transport fluide et efficace des données entre les terminaux de stockage, et NetApp® FlexCache® pour un rendu en temps réel lorsque le flux de données passe du mode batch au mode temps réel et que l'ingénierie des données se produit rapidement, apportez une valeur ajoutée au déploiement de modèles d'IA génératifs en temps réel. Alors que les entreprises de tous types adoptent de nouveaux outils d'IA, elles sont confrontées aux défis liés aux données, de la périphérie au data Center et jusqu'au cloud, qui exigent des solutions d'IA évolutives, responsables et explicables. En tant que référence en matière de gestion des données dans le cloud hybride et le multicloud, NetApp s'engage à créer un réseau de partenaires et de solutions conjointes pouvant aider à tous les aspects de la construction d'un pipeline de données et de data Lakes pour l'entraînement de modèles d'IA génératifs (pré-entraînement), le réglage précis, l'inférence basée sur le contexte et la surveillance de la désintégration de modèles de LLMS.

L'IA générative révolutionne la façon dont nous créons du contenu, générons de nouveaux concepts et explorons de nouvelles compositions. Il illustre les réseaux neuronaux comme le réseau antagoniste génératif (GAN), les codeurs automatiques variationnels (VAE) et les transformateurs pré-entraînés génératifs (GPT), qui peuvent générer un nouveau contenu comme le texte, le code, les images, l'audio, la vidéo, et des données synthétiques. Des modèles basés sur des transformateurs comme le Chat-GPT d’OpenAI, le Bard de Google, la FLORAISON DE la face de se tasser, et le Llama de Meta sont apparus comme la technologie de base qui sous-tend de nombreuses avancées dans les grands modèles linguistiques. De même, Dall-E d'OpenAI, CM3leon de Meta et Imagen de Google sont des exemples de modèles de diffusion texte-image qui offrent aux clients un degré sans précédent de photoréalisme pour créer de nouvelles images complexes à partir de zéro ou modifier des images existantes afin de générer des images de haute qualité prenant en compte le contexte en utilisant l'augmentation des jeux de données et la synthèse texte-image reliant la sémantique textuelle et visuelle. Les artistes numériques commencent à appliquer une combinaison de technologies de rendu comme Nerf (neural Radiance Field) avec l'IA générative pour convertir des images 2D statiques en scènes 3D immersives. En général, les LLMS se caractérisent par quatre paramètres : (1) taille du modèle (généralement en milliards de paramètres) ; (2) taille du dataset d'entraînement ; (3) coût de l'entraînement et (4) performances du modèle après l'entraînement. Les LLMS se répartissent également principalement dans trois architectures de transformateur. (i) modèles avec encodeur uniquement. Par exemple, BERT (Google, 2018) ; (ii) Encoder-décodeur, par exemple BART (Meta, 2020) et (iii) Decoder-Only modèles. Par exemple, Llama (Meta, 2023), Palm-E (Google, 2023). Selon les besoins de l'entreprise, quelle que soit l'architecture choisie, le nombre de paramètres du modèle (N) et le nombre de jetons (D) dans le dataset d'entraînement déterminent généralement le coût de base de l'entraînement (pré-entraînement) ou le réglage d'un LLM.

Figure 3 : workflow de modèle d'apprentissage machine/langage large

Sommes-nous en train de former ou de peaufiner? la question de savoir si (a) former un modèle LLM à partir de zéro, peaufiner un FM pré-entraîné, ou utiliser RAG pour extraire des données des référentiels de documents en dehors d'un modèle de base et augmenter les invites, et (b) soit en exploitant des LLMS open source (par exemple, Llama 2), soit en utilisant des FMS propriétaires (par exemple, ChatGPT, Bard, AWS Bedrock) est une décision stratégique pour les entreprises. Chaque approche implique un compromis entre la rentabilité, la gravité des données, les opérations, la précision des modèles et la gestion des LLMS.

En tant qu'entreprise, NetApp adopte l'IA en interne dans sa culture du travail et dans son approche de la conception de produits et de ses efforts d'ingénierie. Par exemple, la protection anti-ransomware autonome de NetApp est conçue à l'aide de l'IA et du machine learning. Il assure une détection précoce des anomalies du système de fichiers pour aider à identifier les menaces avant qu'elles n'affectent les opérations. Deuxièmement, NetApp utilise l'IA prédictive pour ses activités commerciales, telles que la prévision des ventes et des stocks et les chatbots, pour aider ses clients dans les services de support produit des centres d'appels, les spécifications techniques, la garantie, les manuels de service, etc. Troisièmement, NetApp apporte une valeur ajoutée au pipeline de données d'IA et au workflow ML/LLM via des produits et des solutions destinés aux clients qui conçoivent des solutions d'IA prédictives telles que la prévision de la demande, l'imagerie médicale, l'analyse des sentiments, et des solutions d'IA générative telles que Gans pour la détection des anomalies d'images industrielles dans le secteur manufacturier et la lutte contre le blanchiment d'argent et la détection des fraudes dans les services bancaires et financiers avec des produits et des fonctionnalités NetApp tels que NetApp® ONTAP ai®, NetApp® SnapMirror® et NetApp® FlexCache®.

Le déplacement et la gestion des données dans les applications d'IA générative telles que le chatbot, la génération de code, la génération d'images ou l'expression de modèle génomique peuvent s'étendre de la périphérie, au data Center privé et à l'écosystème multicloud hybride. Par exemple, un robot d'IA en temps réel qui aide un passager à mettre à niveau son billet d'avion pour passer à une classe affaires à partir d'une application utilisateur exposée via des API de modèles pré-entraînés tels que ChatGPT ne peut pas accomplir cette tâche en lui-même puisque les informations sur les passagers ne sont pas accessibles au public sur Internet. L'API requiert l'accès aux informations personnelles du passager et aux informations sur le billet de la compagnie aérienne, qui peuvent exister dans un écosystème hybride ou multicloud. Un scénario similaire peut s'appliquer aux scientifiques partageant une molécule de médicament et les données des patients via une application utilisateur qui utilise les LLM pour effectuer des essais cliniques dans le cadre de la découverte de médicaments impliquant un à plusieurs établissements de recherche biomédicale. Les données sensibles transmises au FMS ou au LLMS peuvent inclure des PII, des informations financières, des informations de santé, des données biométriques, des données de localisation, données de communication, comportement en ligne et informations juridiques. Dans ce cas, le rendu en temps réel, l'exécution rapide et l'inférence de périphérie font passer les données de l'application utilisateur final aux terminaux de stockage via des modèles LLM propriétaires ou open source vers un data Center sur des plateformes de cloud public ou sur site. Dans tous ces scénarios, la mobilité et la protection des données sont essentielles pour les opérations d'IA impliquant des LLMS qui s'appuient sur d'importants datasets d'entraînement et le déplacement de ces données.

Figure 4 : pipeline de traitement de données LLM - IA générative

Le portefeuille NetApp d'infrastructures de stockage, de données et de services cloud est optimisé par un logiciel de gestion intelligente des données.

Préparation des données : le premier pilier de la pile technologique LLM est largement intact de la pile traditionnelle ML plus ancienne. Dans le pipeline d'IA, un prétraitement des données est nécessaire pour les normaliser et les nettoyer avant de procéder à l'entraînement ou aux réglages fins. Cette étape comprend des connecteurs qui permettent d'acquérir les données où qu'elles résident sous la forme d'un Tier Amazon S3 ou dans des systèmes de stockage sur site tels qu'un magasin de fichiers ou d'objets comme NetApp StorageGRID.

NetApp® ONTAP est la technologie de base sur laquelle reposent les solutions de stockage stratégiques de NetApp dans le data Center et le cloud. ONTAP comprend plusieurs fonctionnalités et fonctions de gestion et de protection des données, notamment la protection automatique contre les ransomware contre les cyberattaques, le transport intégré des données et l'efficacité du stockage pour toute une gamme d'architectures : sur site, hybride, multiclouds dans NAS, SAN, objet, et SDS (Software Defined Storage) dans les déploiements LLM.

NetApp® ONTAP ai® pour l'entraînement des modèles de deep learning. NetApp® ONTAP® prend en charge NVIDIA GPU Direct Storage™ en utilisant NFS over RDMA pour les clients NetApp dotés d'un cluster de stockage ONTAP et de nœuds de calcul NVIDIA DGX . Elle offre des performances rentables pour lire et traiter plusieurs fois les jeux de données source du stockage dans la mémoire afin de favoriser l'intelligence, ce qui permet aux entreprises de bénéficier d'une formation, d'un réglage précis et d'un accès évolutif aux LLMS.

NetApp® FlexCache® est une capacité de mise en cache à distance qui simplifie la distribution des fichiers et met uniquement en cache les données lues activement. Cela peut s'avérer utile pour l'entraînement, la réentraînement et le réglage précis du LLM, ce qui apporte de la valeur aux clients ayant des exigences métier telles que le rendu en temps réel et l'inférence LLM.

NetApp® SnapMirror est une fonctionnalité ONTAP qui réplique les snapshots de volumes entre deux systèmes ONTAP. Cette fonctionnalité transfère de manière optimale les données de la périphérie vers votre data Center sur site ou dans le cloud. SnapMirror permet de déplacer des données efficacement et en toute sécurité entre les clouds des hyperscalers et sur site lorsque les clients souhaitent développer une IA générative dans des clouds avec RAG contenant des données d'entreprise. Il ne transfère efficacement que les modifications, ce qui permet d'économiser de la bande passante et d'accélérer la réplication, ce qui apporte des fonctionnalités essentielles de mobilité des données lors des opérations de formation, de réentraînement et de réglage précis des FMS ou des LLMS.

NetApp® SnapLock apporte une capacité de disque immuable sur les systèmes de stockage ONTAP pour la gestion des versions de Datasets. L'architecture des microcœurs est conçue pour protéger les données des clients à l'aide du moteur « zéro confiance » FPolicy™. NetApp garantit la disponibilité des données client en résistant aux attaques par déni de service (dos) lorsqu'un attaquant interagit avec un LLM de manière particulièrement consommatrice de ressources.

NetApp® Cloud Data Sense permet d'identifier, de cartographier et de classer les informations personnelles présentes dans les jeux de données d'entreprise, d'adopter des politiques, de répondre aux exigences de confidentialité sur site ou dans le cloud, d'améliorer la sécurité et de se conformer aux réglementations.

Classification NetApp® BlueXP™, optimisée par Cloud Data Sense. Les clients peuvent automatiquement analyser, analyser, catégoriser et agir sur les données dans l'intégralité de données, détecter les risques pour la sécurité, optimiser le stockage et accélérer les déploiements cloud. Cette solution combine les services de stockage et de données via son plan de contrôle unifié, et permet d'utiliser les instances GPU pour le calcul, ainsi que les environnements multiclouds hybrides pour le Tiering de stockage à froid, l'archivage et les sauvegardes.

NetApp Dualité fichier-objet. NetApp ONTAP permet un accès à double protocole pour NFS et S3. Avec cette solution, les clients peuvent accéder aux données NFS à partir des ordinateurs portables Amazon AWS SageMaker via des compartiments S3 de NetApp Cloud Volumes ONTAP. Les clients ont besoin d'un accès simplifié aux sources de données hétérogènes et de la possibilité de partager des données à partir de NFS et S3. Par exemple, affinage des modèles de génération de texte FMS tels que Llama 2 de Meta sur SageMaker avec accès aux compartiments fichier-objet.

Le service NetApp® Cloud Sync offre un moyen simple et sécurisé de migrer des données vers n'importe quelle cible, dans le cloud ou sur site. Cloud Sync transfère et synchronise de manière transparente les données entre le stockage sur site ou dans le cloud, le stockage NAS et les magasins d'objets.

NetApp XCP est un logiciel client qui permet des migrations de données any-to-NetApp et NetApp-to-NetApp rapides et fiables. XCP permet également de déplacer efficacement des données en bloc depuis des systèmes de fichiers Hadoop HDFS vers ONTAP NFS, S3 ou StorageGRID et l'analytique de fichiers XCP pour assurer une meilleure visibilité sur le système de fichiers.

NetApp® DataOps Toolkit est une bibliothèque Python qui permet aux data Scientists, aux équipes DevOps et aux ingénieurs de données d'effectuer facilement diverses tâches de gestion des données, telles que le provisionnement quasi instantané, le clonage ou la création de snapshots de volumes de données ou d'espaces de travail JupyterLab bénéficiant d'un stockage NetApp hautes performances à évolutivité horizontale.

Sécurité des produits NetApp. Les LLMS peuvent par inadvertance révéler des données confidentielles dans leurs réponses, ce qui constitue un problème pour les RSSI qui étudient les vulnérabilités associées aux applications d'IA exploitant les LLMS. Comme le souligne le projet OWASP (Open Worldwide application Security Project), les problèmes de sécurité tels que l'empoisonnement de données, la fuite de données, le déni de service et les injections rapides au sein des LLMS peuvent avoir un impact sur les entreprises, de l'exposition aux données à des accès non autorisés aux attaquants. Les exigences en matière de stockage des données doivent inclure des contrôles d'intégrité et des snapshots immuables pour les données structurées, semi-structurées et non structurées. Les copies Snapshot NetApp et SnapLock sont utilisées pour la gestion des versions des datasets. Elle inclut un contrôle d'accès basé sur des rôles (RBAC) strict, ainsi que des protocoles sécurisés et un chiffrement standard pour sécuriser les données au repos et en transit. Ensemble, Cloud Insights et Cloud Data Sense offrent des fonctionnalités qui vous aident à identifier la source de la menace d'un point de vue judiciaire et à hiérarchiser les données à restaurer.

Outre ses produits, ses technologies et ses fonctionnalités de base pour les données, NetApp collabore étroitement avec un solide réseau de partenaires d'IA afin d'apporter une valeur ajoutée aux clients.

Les rails NVIDIA Guardrails dans les systèmes d'IA servent de protection pour assurer l'utilisation éthique et responsable des technologies d'IA. Les développeurs d'IA peuvent choisir de définir le comportement des applications LLM sur des sujets spécifiques et l'empêcher de s'engager dans des discussions sur des sujets indésirables. Guardrails, un kit d'outils open-source, permet de connecter un LLM à d'autres services de manière transparente et sécurisée pour créer des systèmes conversationnels LLM fiables, sûrs et sécurisés.

Domino Data Lab fournit des outils polyvalents, professionnels pour la construction et la production de Generative ai - rapide, sûr et économique, où que vous soyez dans votre parcours d'IA. Avec la plateforme Enterprise MLOps de Domino, les data Scientists peuvent utiliser les outils préférés et toutes leurs données, entraîner et déployer facilement des modèles en tout lieu et gérer les risques et les coûts de manière rentable, le tout à partir d'un seul centre de contrôle.

Modzy pour Edge ai. NetApp® et Modzy se sont associés pour fournir l'IA à grande échelle à tous les types de données, y compris les images, l'audio, le texte et les tableaux. Modzy est une plateforme MLOps pour le déploiement, l'intégration et l'exécution de modèles d'IA. Elle offre aux data Scientists des fonctionnalités de surveillance des modèles, de détection des écarts et d'explication, avec une solution intégrée pour l'inférence LLM transparente.

Run:ai et NetApp se sont associés pour démontrer les fonctionnalités uniques de la solution NetApp ONTAP ai avec la plateforme de gestion des clusters Run:ai afin de simplifier l'orchestration des workloads d'IA. Cette solution divise et joint automatiquement les ressources GPU, afin de faire évoluer vos pipelines de traitement de données vers des centaines de machines dotées de structures d'intégration intégrées pour Spark, Ray, Dask et Rapids.

L'IA générative ne peut produire des résultats efficaces que lorsque le modèle est entraîné sur des volumes de données de qualité. Bien que les LLMS aient atteint des jalons remarquables, il est essentiel de reconnaître ses limites, ses défis en matière de conception et les risques associés à la mobilité et à la qualité des données. Les LLMS s'appuient sur des datasets d'entraînement volumineux et disparates provenant de sources de données hétérogènes. Des résultats inexacts ou des résultats biaisés générés par les modèles peuvent mettre en péril à la fois les entreprises et les consommateurs. Ces risques peuvent correspondre à des contraintes pour les LLMS qui émergent potentiellement des défis liés à la gestion des données associés à la qualité, à la sécurité des données et à la mobilité des données. NetApp aide les entreprises à relever les défis liés à la croissance rapide des données, à la mobilité des données, à la gestion multicloud et à l'adoption de l'IA. L'utilisation d'une infrastructure d'IA à grande échelle et d'une gestion efficace des données sont essentielles à la réussite des applications d'IA telles que l'IA générative. Il est essentiel que nos clients couvrent tous les scénarios de déploiement sans compromettre la capacité à se développer en fonction des besoins de l'entreprise tout en contrôlant les coûts, la gouvernance des données et les pratiques éthiques liées à l'IA. NetApp travaille en permanence pour aider les clients à simplifier et à accélérer leurs déploiements d'IA.