Requisiti della Knowledge base Genai
Suggerisci modifiche
PDF
Prima di creare la tua knowledge base, assicurati che Workload Factory e AWS siano configurati correttamente. Ciò include disporre delle credenziali di accesso AWS, un file system FSx for ONTAP distribuito contenente le origini dati che si desidera integrare nella knowledge base, l'accesso al servizio Amazon Bedrock AI e altro ancora.
Requisiti di base di GenAI
Genai ha requisiti generali che il tuo ambiente deve soddisfare prima di iniziare.
- Accesso e account Workload Factory
-
Avrai bisogno di "creare un account con Workload Factory" e accedi utilizzando uno dei "esperienze di console" .
- Credenziali e autorizzazioni AWS
-
È necessario aggiungere le credenziali AWS a Workload Factory con autorizzazioni di lettura/scrittura, il che significa che utilizzerai Workload Factory in modalità lettura/scrittura per GenAI.
Le autorizzazioni per la modalità Basic e la modalità Read-only non sono attualmente supportate.
Quando imposti le tue credenziali, selezionando i permessi come mostrato di seguito avrai accesso completo alla gestione dei file system FSX per ONTAP e alla distribuzione e gestione dell'istanza Genai EC2 e delle altre risorse AWS necessarie per la tua knowledge base e il tuo chatbot.
Requisiti della Knowledge base Genai
Se si prevede di lavorare con le knowledge base, accertarsi che l'ambiente soddisfi i seguenti requisiti.
- Amazon Bedrock
-
Amazon Bedrock ti consente di utilizzare modelli di base e offre le funzionalità per creare applicazioni ai generative.
Prima di iniziare a utilizzare NetApp Workload Factory per GenAI, è necessario configurare Amazon Bedrock. La distribuzione GenAI deve essere in una regione AWS in cui Amazon Bedrock è abilitato.
Genai classifica nuovamente i risultati di ricerca per impostazione predefinita per migliorare la pertinenza dei risultati. Per ottenere i migliori risultati, assicurati che la configurazione del modello di base Amazon Bedrock includa l'accesso a un modello di re-rank, come Cohere Rank o Amazon Rank, se disponibile nella tua regione.
- Modello di inclusione
-
È necessario attivare il modello di integrazione che si intende utilizzare prima di creare la propria knowledge base. Sono supportati i seguenti modelli di inclusione:
-
Titano embedding G1 - testo
-
Titan Embedding testo v2
-
Incorporazioni multimodali Titan G1
-
Incorporare l'inglese
-
Incorpora multilingue
-
- Modello di chat
-
Devi attivare il modello di chat di base che intendi utilizzare prima di creare la tua knowledge base. Poiché il supporto dei modelli varia in base alla regione di AWS, fare riferimento a "La documentazione di AWS" per verificare quali modelli è possibile utilizzare nelle regioni in cui si prevede di implementare la propria knowledge base.
GenAI supporta vari modelli da antropico, Amazon, Mistral ai, Meta, Jamba e Cohere.
Scopri di più su come utilizzare questi modelli in Amazon Bedrock:
- File system FSX per ONTAP
-
Ti serve almeno un file system FSX per ONTAP:
-
Un file system verrà utilizzato (o creato, se non esiste) dal motore NetApp GenAI per memorizzare il database vettoriale utilizzato dalla knowledge base.
Questo file system FSX per ONTAP deve usare FlexVol Volumes. I volumi FlexGroup non sono supportati.
-
Uno o più file system conterranno le origini dati che verranno integrate nella knowledge base.
Un unico file system FSX per ONTAP può essere utilizzato per entrambi questi scopi oppure è possibile utilizzare più file system FSX per ONTAP.
-
Dovrai conoscere la regione, il VPC e la subnet di AWS in cui si trova il file system AWS FSX per ONTAP. Il file system deve trovarsi in una regione AWS in cui è abilitato Amazon Bedrock.
-
Dovrai prendere in considerazione le coppie tag key/valore che desideri applicare alle risorse AWS che fanno parte di questa implementazione (opzionale).
-
È necessario conoscere le informazioni sulla coppia di chiavi che consentono di connettersi in modo sicuro all'istanza del motore NetApp ai.
-