Requisiti Genai
Suggerisci modifiche
PDF
Verifica che la workload Factory e AWS siano configurati correttamente prima di costruire la tua knowledge base. Ciò include la disponibilità delle credenziali di accesso ad AWS, un file system FSX per ONTAP distribuito che contiene le origini dei dati da integrare nella tua knowledge base, l'accesso al servizio ai Amazon Bedrock e altro ancora.
- Account e login di fabbrica del carico di lavoro
-
Sarà necessario "configurare un account con workload factory" ed effettuare l'accesso utilizzando uno dei "esperienze di console" .
- Credenziali e autorizzazioni AWS
-
Devi aggiungere le credenziali AWS alla fabbrica dei carichi di lavoro con autorizzazioni automatiche, il che significa che utilizzerai la fabbrica dei carichi di lavoro in modalità automatizza per Genai.
Le autorizzazioni per la modalità Basic e la modalità Read non sono attualmente supportate.
Quando imposti le tue credenziali, selezionando i permessi come mostrato di seguito avrai accesso completo alla gestione dei file system FSX per ONTAP e alla distribuzione e gestione dell'istanza Genai EC2 e delle altre risorse AWS necessarie per la tua knowledge base e il tuo chatbot.
- Amazon Bedrock
-
Amazon Bedrock ti consente di utilizzare modelli di base e offre le funzionalità per creare applicazioni ai generative.
Prima di iniziare a utilizzare la fabbrica di carichi di lavoro BlueXP per Genai, è necessario configurare Amazon Bedrock. L'implementazione Genai deve trovarsi in una regione AWS con Amazon Bedrock abilitato.
Genai classifica nuovamente i risultati di ricerca per impostazione predefinita per migliorare la pertinenza dei risultati. Per ottenere i migliori risultati, assicurati che la configurazione del modello di base Amazon Bedrock includa l'accesso a un modello di re-rank, come Cohere Rank o Amazon Rank, se disponibile nella tua regione.
- Modello di inclusione
-
È necessario attivare il modello di integrazione che si intende utilizzare prima di creare la propria knowledge base. Sono supportati i seguenti modelli di inclusione:
-
Titano embedding G1 - testo
-
Titan Embedding testo v2
-
Incorporazioni multimodali Titan G1
-
- Modello di chat
-
Devi attivare il modello di chat di base che intendi utilizzare prima di creare la tua knowledge base. Poiché il supporto dei modelli varia in base alla regione di AWS, fare riferimento a "La documentazione di AWS" per verificare quali modelli è possibile utilizzare nelle regioni in cui si prevede di implementare la propria knowledge base.
GenAI supporta i seguenti modelli antropici Claude e Amazon Nova:
-
Claude antropico:
-
Claude 3,5 Sonnet
-
Claude 3 Opus
-
Claude 3 Haiku
-
Claude 3 Sonnet
-
Claude 2,1
-
Claude 2,0
-
-
Amazon Nova:
-
Nova Micro
-
Nova Lite (supporta immagini e testo)
-
Nova Pro (supporta immagini e testo)
-
Ulteriori informazioni sull'utilizzo di questi modelli con Amazon Bedrock:
-
- File system FSX per ONTAP
-
Ti serve almeno un file system FSX per ONTAP:
-
Un file system verrà utilizzato dal motore NetApp GenAI per memorizzare il database vettoriale utilizzato dalla knowledge base.
Questo file system FSX per ONTAP deve usare FlexVol Volumes. I volumi FlexGroup non sono supportati.
-
Uno o più file system conterranno le origini dati che verranno integrate nella knowledge base.
Un unico file system FSX per ONTAP può essere utilizzato per entrambi questi scopi oppure è possibile utilizzare più file system FSX per ONTAP.
-
Dovrai conoscere la regione, il VPC e la subnet di AWS in cui si trova il file system AWS FSX per ONTAP. Il file system deve trovarsi in una regione AWS in cui è abilitato Amazon Bedrock.
-
Dovrai prendere in considerazione le coppie tag key/valore che desideri applicare alle risorse AWS che fanno parte di questa implementazione (opzionale).
-
È necessario conoscere le informazioni sulla coppia di chiavi che consentono di connettersi in modo sicuro all'istanza del motore NetApp ai.
-