Scopri di più su NetApp Workload Factory per GenAI
NetApp Workload Factory per GenAI consente di integrare i file system Amazon FSx for NetApp ONTAP con i modelli di base GenAI. Ciò ti fornisce uno storage ad alte prestazioni con un ricco set di funzionalità di protezione, sicurezza e ottimizzazione dei costi per i tuoi set di dati di intelligenza artificiale.
Che cos'è NetApp Workload Factory per GenAI?
NetApp Workload Factory per GenAI ti consente di utilizzare le tue origini dati aziendali su Amazon FSx for NetApp ONTAP con applicazioni di intelligenza artificiale generativa. Utilizzando la generazione aumentata dal recupero (RAG), è possibile connettere rapidamente le fonti di dati ai modelli di base disponibili tramite Amazon Bedrock o Amazon Q Business per sviluppare applicazioni basate sull'intelligenza artificiale generativa, come assistenti virtuali, chatbot di domande e risposte, riepiloghi di documenti, creazione di contenuti, ecc.
L'utilizzo dell'intelligenza artificiale generativa con i dati organizzativi ti consente di sfruttare le tue conoscenze e competenze, non solo l'intelligenza del modello basata sui dati pubblici su cui i modelli sono stati formati. L'utilizzo di RAG per personalizzare i modelli garantisce risposte precise e pertinenti alle domande specifiche dell'organizzazione, migliorando la produttività e l'efficienza per gli utenti delle applicazioni utilizzando l'intelligenza artificiale generativa.
Lo sviluppo di un'applicazione Genai personalizzata in base ai dati della vostra organizzazione vi consente di sfruttare le vostre conoscenze e competenze. Questa funzionalità di personalizzazione garantisce risposte accurate e pertinenti alle domande specifiche dell'organizzazione, migliorando la soddisfazione e la produttività di tutti gli utenti.
Se "creare una knowledge base", GenAI acquisisce i dati dalle origini dati, memorizza i risultati vettorizzati in un database e fornisce il pieno controllo su come utilizzare i dati acquisiti per rispondere alle query. Questo approccio richiede una configurazione iniziale maggiore, ma consente di scegliere modelli di chat diversi per risultati diversi. Se si "definire un connettore NetApp per Amazon Q Business", i dati provenienti dalle origini dati vengono acquisiti da Amazon Q Business e archiviati in un indice. Questo approccio richiede una configurazione iniziale inferiore, ma consente di avere meno controllo sui risultati.
Per ulteriori informazioni su Workload Factory, fare riferimento a "Panoramica di Workload Factory" .
Vantaggi dell'utilizzo di Genai per la creazione di applicazioni di intelligenza artificiale generative
NetApp Workload Factory per GenAI semplifica il processo di distribuzione dell'infrastruttura necessaria per creare applicazioni di intelligenza artificiale generativa utilizzando la generazione aumentata dal recupero (RAG). Nello specifico, GenAI offre i seguenti vantaggi:
-
Senza bisogno di una conoscenza approfondita dell'infrastruttura dati, delle basi e dei modelli linguistici, gli amministratori IT e gli sviluppatori possono accelerare lo sviluppo delle applicazioni utilizzando l'automazione fornita da Genai. Amministratori e sviluppatori dei dati possono creare in modo semplice e rapido knowledge base aziendali che integrano i dati non strutturati dell'organizzazione che possono essere utilizzati da applicazioni ai generative.
-
Migliorare la protezione preservando le autorizzazioni degli utenti nei file incorporati nelle knowledge base per garantire il mantenimento della protezione e della privacy dei dati. Un'applicazione, come un chatbot, può essere sviluppata per fornire solo agli utenti autenticati risposte basate sui dati a cui gli utenti hanno accesso.
-
Mantieni privati e protetti i tuoi dati aziendali all'interno dell'account clienti AWS, in cui i dati aziendali non sono mai esposti all'esterno.
-
Accelera lo sviluppo di applicazioni Genai come un chatbot Q&A utilizzando framework open source come LangChain che utilizzano l'API GenAI per il provisioning e la gestione di knowledge base e connettori, chattare con una knowledge base e memorizzare e recuperare la cronologia delle chat.
-
Migliora la data Protection e il livello di disponibilità implementando l'infrastruttura di dati generativa ai su file system FSX per NetApp ONTAP e sfruttando funzionalità ONTAP come alta disponibilità, snapshot per la data Protection e il recovery locali, SnapMirror per il disaster recovery e SnapVault per il backup della tua infrastruttura dati.
-
Ridurre i costi generali di storage per l'infrastruttura dati ai generativa, sfruttando le funzionalità di efficienza dei dati di ONTAP, come deduplica, compressione e compaction dei dati, tiering dei dati e thin provisioning.
-
Ottieni risultati di alta qualità dai tuoi dati con la ricerca ibrida e le funzionalità di re-rank fornite da GenAI. La ricerca ibrida combinata con il re-ranking migliora notevolmente l'importanza dei risultati di ricerca. Queste funzionalità sono disponibili tramite Amazon AWS e dipendono da una regione.
Come funziona GenAI
GenAI utilizza i dati privati della tua organizzazione per integrare l'intelligenza del modello (in base ai dati su cui è stata formata) per fornire risposte personalizzate alle domande poste dagli utenti della tua organizzazione. Innanzitutto, è necessario implementare l'infrastruttura necessaria per un framework RAG, quindi creare una knowledge base o definire un connettore utilizzando le origini dati e i modelli di base dell'organizzazione disponibili tramite Amazon Bedrock o Amazon Q Business, quindi collegare un'applicazione (ad esempio un chatbot Q&A) alla knowledge base o al connettore.

Come NetApp Workload Factory per GenAI aiuta a creare applicazioni di intelligenza artificiale generativa
GenAI aiuta a creare applicazioni ai generative utilizzando RAG nei seguenti modi:
-
Implementa l'infrastruttura richiesta per il framework RAG (Return-augmented generation) per lavorare con le origini dati in FSX per i file system ONTAP e in Amazon Bedrock o Amazon Q Business. L'infrastruttura include l'istanza del motore GenAI di NetApp per la gestione dei dati, un database vettoriale incorporato (LanceDB) e lo storage nel file system FSX per ONTAP per il database vettoriale.
-
Consente di collegare le origini dati alle incorporazioni e ai modelli linguistici disponibili tramite Amazon Bedrock o Amazon Q Business per l'inclusione delle origini dati e il recupero delle risposte per le query degli utenti. Le origini dei dati, insieme ai modelli e alla loro configurazione, sono presentate come knowledge base FSX per ONTAP.
-
Acquisisce i dati di origine nella knowledge base o nel connettore per incorporare i file di origine nelle condivisioni SMB e nelle esportazioni NFS in file system FSX per ONTAP, oltre a memorizzare le autorizzazioni dei file per i file all'interno delle condivisioni SMB.
-
Crea automaticamente domande introduttive sulla base del contenuto delle knowledge base.
-
Fornisce un simulatore di chat per gli amministratori di dati per testare le chat con le knowledge base.
-
Fornisce una semplice interfaccia di connettore che ti consente di collegare Genai con Amazon Q Business, utilizzando in modo rapido e semplice le funzionalità di questo assistente ai.
Strumenti per utilizzare NetApp Workload Factory
È possibile utilizzare NetApp Workload Factory con i seguenti strumenti:
-
Console Workload Factory: la console Workload Factory fornisce una visione visiva e olistica delle applicazioni e dei progetti.
-
* NetApp Console*: la NetApp Console offre un'esperienza di interfaccia ibrida che consente di utilizzare Workload Factory insieme ad altri servizi dati NetApp .
-
Chiedimi: utilizza l'assistente AI Chiedimi per porre domande e scoprire di più su Workload Factory senza uscire dalla console di Workload Factory. Accedi a Chiedimi dal menu della guida di Workload Factory.
-
CloudShell CLI: Workload Factory include una CloudShell CLI per gestire e utilizzare gli ambienti AWS e NetApp su più account da un'unica CLI basata su browser. Accedi a CloudShell dalla barra superiore della console di Workload Factory.
-
API REST: utilizza le API REST di Workload Factory per distribuire e gestire i tuoi file system FSx for ONTAP e altre risorse AWS.
-
CloudFormation: utilizza il codice AWS CloudFormation per eseguire le azioni definite nella console Workload Factory per modellare, fornire e gestire risorse AWS e di terze parti dallo stack CloudFormation nel tuo account AWS.
-
Provider Terraform NetApp Workload Factory: utilizza Terraform per creare e gestire i flussi di lavoro dell'infrastruttura generati nella console Workload Factory.
Costo
L'utilizzo della funzionalità GenAI di Workload Factory non comporta alcun costo.
Tuttavia, dovrai pagare per le risorse AWS implementate per supportare l'infrastruttura ai generativa. Ad esempio, pagherai AWS per Amazon Bedrock o Amazon Q Business, FSX per la capacità di storage e file system ONTAP e l'istanza EC2 del motore Genai.
Alcune operazioni multimodali, come la scansione delle immagini per le informazioni di testo, possono utilizzare più risorse e quindi comportano costi più elevati. Alcune operazioni di configurazione, ad esempio la modifica delle impostazioni per una knowledgebase, possono causare la ripetizione della scansione delle origini dati, mentre le scansioni delle origini dati possono comportare costi più elevati.
Licensing
Per utilizzare le funzionalità di intelligenza artificiale di Workload Factory non sono necessarie licenze speciali da parte di NetApp .
Regioni
Workload Factory è supportato in tutte le regioni commerciali in cui è supportato FSx per ONTAP ."Visualizza le regioni Amazon supportate."
Le seguenti regioni AWS non sono supportate:
-
regioni della Cina
-
Regioni GovCloud (USA)
-
Nuvola segreta
-
Nuvola top secret