了解 LLM 在 NetApp Console 本地部署中的集成
建议更改
PDF
NetApp Console 本地部署连接到大型语言模型 (LLM)，用于 AI 辅助存储管理。设置完成后，用户可以使用自然语言进行存储指导、分析、配置和支持的操作。
|
本文档以技术预览形式提供有关将 LLM 连接到 Console 助理以启用 AI 功能的文档。通过此预览产品，NetApp 保留在正式发布之前修改产品详情、内容和时间表的权利。 |
AI 辅助管理让用户能够以简单语言描述请求，同时 Console 本地部署应用您的存储策略。
控制台本地部署仅向您配置的端点发送 LLM 请求。
您可以使用 AI 辅助存储管理做什么
启用 LLM 集成后，Console 本地部署将通过 Console 助手提供以下功能：
-
Storage provisioning 以通俗易懂的语言描述工作负载要求。Console 本地部署根据您的存储类推荐并运行配置计划。
-
Metrics and analytics 询问有关当前机群状态下的存储容量、性能和其他支持指标的问题。此功能为只读。
-
警报响应 要求 Console 本地部署调查活动警报。它会分析问题，并根据分配的权限建议或运行受支持的操作。
-
ONTAP 管理 要求助理在已注册的 ONTAP 系统上查看或执行支持的管理操作。写操作需要审核和确认。
-
搜索和指导 询问有关您的存储环境或 ONTAP 管理的问题。Console 本地部署从文档和当前集群状态返回上下文答案。
为 Console assistant 选择只读或读/写访问权限
用户根据他们想要的结果选择助手访问模式：
-
用于指导和调查的*只读*模式，无需进行基础架构更改。
-
用于引导执行的*读/写*模式。控制台本地部署显示建议的操作，请求确认，然后运行更改。
了解控制台助理操作的控制因素
Console 本地部署通过平台上使用的相同治理模型控制 Console 助手操作：
-
基于角色的访问控制限制了每个用户可以查看和操作的内容。
-
存储策略限制配置和相关操作。
-
助手在访问队列、系统和存储资源时使用已登录用户的作用域。
-
Console 助理在运行存储更改操作之前需要确认。
选择 LLM 提供商路径
NetApp Console 本地部署支持以下 LLM 提供程序类型：
-
OpenAI 用于直接访问 OpenAI 模型。
-
*OpenAI 兼容代理*用于使用企业网关或代理服务。
-
Anthropic 适用于 Anthropic 的 Claude 模型。
模型可用性取决于您配置的端点。在 Console 本地部署的列表中选择一个模型。
保护 LLM 凭据并控制管理员访问
保护与这些控件的集成：
-
将 API 密钥视为特权凭据，并根据组织策略进行轮换。
-
查看提供商端的使用情况和警报，以检测意外活动。
通过选择合适的 LLM 提供商和模型、与提供商一起设置使用限制和警报以及监控令牌使用情况，来控制 Console assistant 的成本。只有向 LLM 发送请求的活动才会消耗提供商令牌；后端操作不会。
连接 LLM
在您做出这些决定后，"连接您的 LLM 以启用 NetApp Console 助理"。