Exigences de la base de connaissances GenAI
Suggérer des modifications
PDF
Assurez-vous que Workload Factory et AWS sont correctement configurés avant de créer votre base de connaissances. Cela inclut vos informations de connexion AWS, un système de fichiers FSx for ONTAP déployé contenant les sources de données que vous souhaitez intégrer dans votre base de connaissances, l'accès au service Amazon Bedrock AI, et bien plus encore.
Exigences GenAI de base
GenAI présente des exigences générales que votre environnement doit satisfaire avant de commencer.
- Connexion et compte Workload Factory
-
Vous aurez besoin de "créer un compte avec Workload Factory" et connectez-vous en utilisant l'un des "expériences de la console" .
- Identifiants et autorisations AWS
-
Vous devez ajouter les informations d'identification AWS à Workload Factory avec des autorisations de lecture/écriture, ce qui signifie que vous utiliserez Workload Factory en mode lecture/écriture pour GenAI.
Les autorisations Basic mode et Read-Only mode ne sont pas prises en charge pour le moment.
Lors de la configuration de vos identifiants, le fait de sélectionner les autorisations comme indiqué ci-dessous vous permet de bénéficier d'un accès complet pour gérer les systèmes de fichiers FSX pour ONTAP, ainsi que pour déployer et gérer l'instance EC2 GenAI et d'autres ressources AWS nécessaires à votre base de connaissances et à votre chatbot.
Exigences de la base de connaissances GenAI
Si vous prévoyez de travailler avec des bases de connaissances, assurez-vous que votre environnement répond aux exigences suivantes.
- Sol d'Amazon
-
Amazon Bedrock vous permet d'utiliser des modèles de base et offre les fonctionnalités nécessaires pour créer des applications d'IA générative.
Avant de commencer à utiliser NetApp Workload Factory pour GenAI, vous devez configurer Amazon Bedrock. Votre déploiement GenAI doit se trouver dans une région AWS sur laquelle Amazon Bedrock est activé.
GenAI classe par défaut les résultats de recherche pour en améliorer la pertinence. Pour obtenir les meilleurs résultats, assurez-vous que votre configuration de modèle de base Amazon Bedrock inclut l'accès à un modèle de classement, tel que Cohere Rerank ou Amazon Rerank, si disponible dans votre région.
- Modèle d'intégration
-
Vous devez activer le modèle d'intégration que vous prévoyez d'utiliser avant de créer votre base de connaissances. Les modèles d'intégration suivants sont pris en charge :
-
Codes Titan G1 - texte
-
Texte d'intégration Titan v2
-
Embedding multimodal G1 Titan
-
Intégrer l'anglais
-
Intégrer multilingue
-
- Modèle de chat
-
Vous devez activer le modèle de chat de base que vous prévoyez d'utiliser avant de créer votre base de connaissances. Étant donné que la prise en charge des modèles varie selon les régions AWS, reportez-vous à la section "La documentation AWS" pour vérifier les modèles que vous pouvez utiliser dans les régions où vous prévoyez de déployer votre base de connaissances.
GenAI prend en charge divers modèles de Anthropic, Amazon, Mistral ai, Meta, Jamba, et Cohere.
En savoir plus sur l'utilisation de ces modèles dans Amazon Bedrock :
- FSX pour le système de fichiers ONTAP
-
Vous avez besoin d'au moins un système de fichiers FSX pour ONTAP :
-
Un système de fichiers sera utilisé (ou créé, s'il n'existe pas) par le moteur NetApp GenAI pour stocker la base de données vectorielle utilisée par la base de connaissances.
Ce système de fichiers FSX pour ONTAP doit utiliser des volumes FlexVol. Les volumes FlexGroup ne sont pas pris en charge.
-
Un ou plusieurs systèmes de fichiers contiendront les sources de données que vous intégrerez dans votre base de connaissances.
Un système de fichiers FSX pour ONTAP peut être utilisé pour ces deux raisons ou vous pouvez utiliser plusieurs systèmes de fichiers FSX pour ONTAP.
-
Vous devez connaître la région AWS, le VPC et le sous-réseau où réside le système de fichiers AWS FSX pour ONTAP. Le système de fichiers doit se trouver dans une région AWS sur laquelle Amazon Bedrock est activé.
-
Vous devrez tenir compte des paires clé/valeur que vous souhaitez appliquer aux ressources AWS faisant partie de ce déploiement (facultatif).
-
Vous devrez connaître les informations relatives aux paires de clés qui vous permettront de vous connecter en toute sécurité à l'instance du moteur NetApp ai.
-