Skip to main content
本繁體中文版使用機器翻譯，譯文僅供參考，若與英文版本牴觸，應以英文版本為準。

GenAI 知識庫需求

貢獻者 netapp-mwallis
PDF

在建置知識庫之前，請確保 Workload Factory 和 AWS 已正確設定。這包括擁有您的 AWS 登入憑證、已部署的 FSx for ONTAP檔案系統（其中包含您想要整合到知識庫中的資料來源）、存取 Amazon Bedrock AI 服務等等。

基本 GenAI 需求

GenAI 的一般需求是您開始使用前所需的環境。

工作負載工廠登入和帳戶

你需要 "在 Workload Factory 上建立帳戶"並使用以下任一方式登入 "主控台體驗"。

AWS 認證與權限

您需要將具有讀取/寫入權限的 AWS 憑證新增至 Workload Factory，這表示您將以讀取/寫入模式使用 Workload Factory 進行 GenAI。

目前不支援 _ 基本 _ 模式和 _ 唯讀 _ 模式權限。

設定認證時、如下所示選取權限、可讓您完全存取以管理 ONTAP 檔案系統的 FSX 、並部署及管理知識庫和 chatbot 所需的 GenAI EC2 執行個體和其他 AWS 資源。

"了解如何將 AWS 憑證新增至 Workload Factory"

GenAI 知識庫需求

如果您計畫使用知識庫，請確保您的環境符合下列需求。

Amazon bedrock

Amazon 基礎架構可讓您使用基礎模型、並提供建置泛用 AI 應用程式的功能。

在開始使用NetApp Workload Factory for GenAI 之前，您必須設定 Amazon Bedrock。您的 GenAI 部署必須位於啟用了 Amazon Bedrock 的 AWS 區域。

GenAI 預設會重新排列搜尋結果，以改善結果相關性。為獲得最佳結果，請確保 Amazon 基礎模型組態包括存取重新排名模型，例如 Cohere Rerank 或 Amazon Rerank （如果您所在地區有）。

內嵌模型

建立知識庫之前、您必須先啟用您計畫使用的內嵌模型。支援下列內嵌模型：

  • Titan 嵌入式 G1 - 文字

  • Titan 內嵌文字 v2

  • Titan Multic形式 嵌入式 G1

  • 內嵌英文

  • 內嵌多國語言

    "深入瞭解 Amazon Titan"

聊天模式

您必須先啟用您計畫使用的基礎聊天模式、才能建立知識庫。由於各 AWS 地區的機型支援不盡相同、請參閱 "AWS 文件" 、確認您可以在計畫部署知識庫的地區使用哪些機型。

GenAI 支援 Anthropic ， Amazon ， Mistral AI ， Meta ， Jamba 和 Cohere 等多種機型。

深入瞭解如何在 Amazon Bedrock 中使用這些模型：

適用於 ONTAP 檔案系統的 FSX

您至少需要一個適用於 ONTAP 檔案系統的 FSX ：

  • NetApp GenAI 引擎將使用一個檔案系統（或建立一個檔案系統，如果不存在）來儲存知識庫所使用的向量資料庫。

    此適用於 ONTAP 檔案系統的 FSX 必須使用 FlexVol Volume 。不支援支援的支援。FlexGroup

  • 一或多個檔案系統將包含您要整合至知識庫的資料來源。

    一個適用於 ONTAP 檔案系統的 FSX 可同時用於上述兩種用途、或者您可以將多個 FSX 用於 ONTAP 檔案系統。

  • 您需要知道 AWS 區域、 VPC 和子網路、這些都是 AWS FSX for ONTAP 檔案系統所在的位置。檔案系統必須位於啟用 Amazon bedrock 的 AWS 區域。

  • 您需要考慮要套用至屬於此部署一部分的 AWS 資源的標記金鑰 / 值配對（選用）。

  • 您必須知道金鑰配對資訊、才能安全地連線至 NetApp AI 引擎執行個體。

"瞭解如何部署及管理適用於 ONTAP 檔案系統的 FSX"