GenAI 知識庫需求
在您建置知識庫之前,請先確定工作負載工廠和 AWS 已正確設定。這包括擁有 AWS 登入認證、部署的 ONTAP 檔案系統 FSX 、其中包含您想要整合至知識庫的資料來源、存取 Amazon bedrock AI 服務等。
基本 GenAI 需求
GenAI 的一般需求是您開始使用前所需的環境。
- 工作負載工廠登入與帳戶
-
您需要 "在工作負載工廠設定帳戶"使用其中一項登入 "主控台體驗"。
- AWS 認證與權限
-
您需要將 AWS 憑證新增至具有讀取/寫入權限的工作負載工廠,這表示您將在 GenAI 的讀取/寫入模式下使用工作負載工廠。
目前不支援 _ 基本 _ 模式和 _ 唯讀 _ 模式權限。
設定認證時、如下所示選取權限、可讓您完全存取以管理 ONTAP 檔案系統的 FSX 、並部署及管理知識庫和 chatbot 所需的 GenAI EC2 執行個體和其他 AWS 資源。
GenAI 知識庫需求
如果您計畫使用知識庫,請確保您的環境符合下列需求。
- Amazon bedrock
-
Amazon 基礎架構可讓您使用基礎模型、並提供建置泛用 AI 應用程式的功能。
在開始使用 GenAI 的 BlueXP 工作負載工廠之前,您必須先設定 Amazon 基礎。您的 GenAI 部署必須位於啟用 Amazon 基礎的 AWS 區域。
GenAI 預設會重新排列搜尋結果,以改善結果相關性。為獲得最佳結果,請確保 Amazon 基礎模型組態包括存取重新排名模型,例如 Cohere Rerank 或 Amazon Rerank (如果您所在地區有)。
- 內嵌模型
-
建立知識庫之前、您必須先啟用您計畫使用的內嵌模型。支援下列內嵌模型:
-
Titan 嵌入式 G1 - 文字
-
Titan 內嵌文字 v2
-
Titan Multic形式 嵌入式 G1
-
內嵌英文
-
內嵌多國語言
-
- 聊天模式
-
您必須先啟用您計畫使用的基礎聊天模式、才能建立知識庫。由於各 AWS 地區的機型支援不盡相同、請參閱 "AWS 文件" 、確認您可以在計畫部署知識庫的地區使用哪些機型。
GenAI 支援 Anthropic , Amazon , Mistral AI , Meta , Jamba 和 Cohere 等多種機型。
深入瞭解如何在 Amazon Bedrock 中使用這些模型:
- 適用於 ONTAP 檔案系統的 FSX
-
您至少需要一個適用於 ONTAP 檔案系統的 FSX :
-
NetApp GenAI 引擎將使用一個檔案系統(或建立一個檔案系統,如果不存在)來儲存知識庫所使用的向量資料庫。
此適用於 ONTAP 檔案系統的 FSX 必須使用 FlexVol Volume 。不支援支援的支援。FlexGroup
-
一或多個檔案系統將包含您要整合至知識庫的資料來源。
一個適用於 ONTAP 檔案系統的 FSX 可同時用於上述兩種用途、或者您可以將多個 FSX 用於 ONTAP 檔案系統。
-
您需要知道 AWS 區域、 VPC 和子網路、這些都是 AWS FSX for ONTAP 檔案系統所在的位置。檔案系統必須位於啟用 Amazon bedrock 的 AWS 區域。
-
您需要考慮要套用至屬於此部署一部分的 AWS 資源的標記金鑰 / 值配對(選用)。
-
您必須知道金鑰配對資訊、才能安全地連線至 NetApp AI 引擎執行個體。
-