Skip to main content
本繁體中文版使用機器翻譯,譯文僅供參考,若與英文版本牴觸,應以英文版本為準。

GenAI 知識庫需求

貢獻者 netapp-mwallis

在您建置知識庫之前,請先確定工作負載工廠和 AWS 已正確設定。這包括擁有 AWS 登入認證、部署的 ONTAP 檔案系統 FSX 、其中包含您想要整合至知識庫的資料來源、存取 Amazon bedrock AI 服務等。

基本 GenAI 需求

GenAI 的一般需求是您開始使用前所需的環境。

工作負載工廠登入與帳戶

您需要 "在工作負載工廠設定帳戶"使用其中一項登入 "主控台體驗"

AWS 認證與權限

您需要將 AWS 憑證新增至具有讀取/寫入權限的工作負載工廠,這表示您將在 GenAI 的讀取/寫入模式下使用工作負載工廠。

目前不支援 _ 基本 _ 模式和 _ 唯讀 _ 模式權限。

設定認證時、如下所示選取權限、可讓您完全存取以管理 ONTAP 檔案系統的 FSX 、並部署及管理知識庫和 chatbot 所需的 GenAI EC2 執行個體和其他 AWS 資源。

GenAI 知識庫需求

如果您計畫使用知識庫,請確保您的環境符合下列需求。

Amazon bedrock

Amazon 基礎架構可讓您使用基礎模型、並提供建置泛用 AI 應用程式的功能。

在開始使用 GenAI 的 BlueXP  工作負載工廠之前,您必須先設定 Amazon 基礎。您的 GenAI 部署必須位於啟用 Amazon 基礎的 AWS 區域。

GenAI 預設會重新排列搜尋結果,以改善結果相關性。為獲得最佳結果,請確保 Amazon 基礎模型組態包括存取重新排名模型,例如 Cohere Rerank 或 Amazon Rerank (如果您所在地區有)。

內嵌模型

建立知識庫之前、您必須先啟用您計畫使用的內嵌模型。支援下列內嵌模型:

  • Titan 嵌入式 G1 - 文字

  • Titan 內嵌文字 v2

  • Titan Multic形式 嵌入式 G1

  • 內嵌英文

  • 內嵌多國語言

聊天模式

您必須先啟用您計畫使用的基礎聊天模式、才能建立知識庫。由於各 AWS 地區的機型支援不盡相同、請參閱 "AWS 文件" 、確認您可以在計畫部署知識庫的地區使用哪些機型。

GenAI 支援 Anthropic , Amazon , Mistral AI , Meta , Jamba 和 Cohere 等多種機型。

深入瞭解如何在 Amazon Bedrock 中使用這些模型:

適用於 ONTAP 檔案系統的 FSX

您至少需要一個適用於 ONTAP 檔案系統的 FSX :

  • NetApp GenAI 引擎將使用一個檔案系統(或建立一個檔案系統,如果不存在)來儲存知識庫所使用的向量資料庫。

    此適用於 ONTAP 檔案系統的 FSX 必須使用 FlexVol Volume 。不支援支援的支援。FlexGroup

  • 一或多個檔案系統將包含您要整合至知識庫的資料來源。

    一個適用於 ONTAP 檔案系統的 FSX 可同時用於上述兩種用途、或者您可以將多個 FSX 用於 ONTAP 檔案系統。

  • 您需要知道 AWS 區域、 VPC 和子網路、這些都是 AWS FSX for ONTAP 檔案系統所在的位置。檔案系統必須位於啟用 Amazon bedrock 的 AWS 區域。

  • 您需要考慮要套用至屬於此部署一部分的 AWS 資源的標記金鑰 / 值配對(選用)。

  • 您必須知道金鑰配對資訊、才能安全地連線至 NetApp AI 引擎執行個體。