NetApp Console 로컬 배포에서 LLM 통합에 대해 알아보세요.
변경 제안
PDF
NetApp Console 로컬 배포는 AI 기반 스토리지 관리를 위해 대규모 언어 모델(LLM)에 연결됩니다. 설정 후 사용자는 자연어를 사용하여 스토리지를 프로비저닝하고, 경고를 조사하고, 스토리지 관련 지침을 얻을 수 있습니다.
|
LLM을 콘솔 어시스턴트에 연결하여 AI 기능을 활성화하는 방법에 대한 이 문서는 기술 미리 보기로 제공됩니다. 이 미리 보기 제공을 통해 NetApp은 정식 출시 전에 제공 세부 정보, 콘텐츠 및 일정을 수정할 권리를 보유합니다. |
AI 기반 관리 기능을 통해 사용자는 요청 사항을 일반적인 언어로 설명할 수 있으며, Console 로컬 배포를 통해 스토리지 정책을 적용할 수 있습니다.
콘솔 로컬 배포는 사용자가 구성한 엔드포인트로만 LLM 요청을 보냅니다.
AI 기반 스토리지 관리로 할 수 있는 일
LLM 통합을 활성화하면 콘솔 로컬 배포를 통해 콘솔 도우미에서 세 가지 기능을 사용할 수 있습니다.
-
스토리지 프로비저닝 워크로드 요구 사항을 이해하기 쉬운 언어로 설명하세요. Console 로컬 배포는 스토리지 클래스를 기반으로 프로비저닝 계획을 권장하고 실행합니다.
-
경고 응답 Console 로컬 배포에 활성 경고 조사를 요청합니다. 콘솔은 문제를 분석하고 할당된 권한에 따라 조치를 제안하거나 실행합니다.
-
검색 및 안내 스토리지 환경 또는 ONTAP 관리에 대해 질문하십시오. Console 로컬 배포는 문서 및 현재 플릿 상태에서 상황에 맞는 답변을 반환합니다.
콘솔 도우미에 대해 읽기 전용 또는 읽기/쓰기 액세스 권한을 선택하십시오.
사용자는 원하는 결과에 따라 어시스턴트 액세스 모드를 선택합니다.
-
인프라 변경 없이 지침 및 조사를 위한 읽기 전용 모드입니다.
-
안내 실행을 위한 읽기/쓰기 모드입니다. 콘솔 로컬 배포 시 제안된 작업이 표시되고, 확인을 요청한 후 변경 사항이 실행됩니다.
콘솔 어시스턴트 동작을 제어하는 요소를 파악합니다.
콘솔 로컬 배포 제어는 플랫폼 전체에서 사용되는 동일한 거버넌스 모델을 통해 콘솔 지원 기능의 작업을 제어합니다.
-
역할 기반 액세스 제어는 각 사용자가 보고 수행할 수 있는 작업을 제한합니다.
-
스토리지 정책은 프로비저닝 및 관련 작업을 제한합니다.
-
Console 어시스턴트는 스토리지 변경 작업을 실행하기 전에 확인을 요청합니다.
LLM 공급자 경로를 선택합니다
NetApp Console 로컬 배포는 다음 LLM 공급자 유형을 지원합니다.
-
직접 OpenAI 모델에 액세스하려면 *OpenAI*를 사용하십시오.
-
엔터프라이즈 게이트웨이 또는 프록시 서비스 등 호환 엔드포인트의 경우 OpenAI 호환.
-
Anthropic의 Claude 모델을 위한 Anthropic.
모델 사용 가능 여부는 구성한 엔드포인트에 따라 다릅니다. Console 로컬 배포 목록에서 모델을 선택하십시오.
지원되는 모델에 대한 자세한 내용은 "NetApp Console 로컬 배포에서 지원되는 LLM 제공업체 및 모델에 대해 알아보십시오"을 참조하십시오.
LLM 요청이 어디로 가는지 파악합니다
데이터 흐름은 선택한 엔드포인트 경로에 따라 달라집니다.
-
OpenAI 엔드포인트를 구성하면 콘솔 로컬 배포에서 프롬프트와 컨텍스트를 OpenAI 엔드포인트로 전송합니다.
-
OpenAI 호환 엔드포인트를 구성하면 Console 로컬 배포에서 조직이 구성한 호환 엔드포인트로 프롬프트와 컨텍스트를 전송합니다.
LLM 자격 증명을 보호하고 관리자 액세스를 제어합니다
다음 제어 기능을 사용하여 통합을 보호하십시오.
-
API 키는 권한이 필요한 자격 증명으로 취급하고 조직 정책에 따라 주기적으로 갱신하십시오.
-
공급자 측 사용량 및 알림을 검토하여 예상치 못한 활동을 감지하십시오.
LLM 연결
이러한 결정을 내린 후 "LLM을 연결하고 NetApp Console 도우미를 활성화하십시오"을(를) 계속 진행하십시오.
연결 또는 런타임 검사에 실패하면 "LLM 통합 문제 해결"을 참조하십시오.