GenAI 기술 자료 요구 사항
변경 제안
PDF
기술 자료를 구축하기 전에 워크로드 팩토리 및 AWS가 올바르게 설정되었는지 확인하십시오. 여기에는 AWS 로그인 자격 증명, 기술 자료에 통합하려는 데이터 소스가 포함된 배포된 FSx for ONTAP 파일 시스템, Amazon Bedrock AI 서비스에 대한 액세스 등이 포함됩니다.
기본 GenAI 요구 사항
GenAI는 시작하기 전에 환경에 필요한 일반적인 요구 사항을 충족해야 합니다.
- 워크로드 공장 로그인 및 계정
-
를 사용하여 "콘솔 환경" 로그인해야 "워크로드 팩토리에 계정을 설정합니다" 합니다.
- AWS 자격 증명 및 권한
-
워크로드 팩토리에 AWS 자격 증명을 읽기/쓰기 권한으로 추가해야 합니다. 즉, GenAI에 대해 워크로드 팩토리를 읽기/쓰기 모드로 사용해야 합니다.
_Basic_mode 및 _Read-only_mode 권한은 현재 지원되지 않습니다.
자격 증명을 설정할 때 아래 표시된 권한을 선택하면 FSx for ONTAP 파일 시스템을 관리하고 기술 자료 및 챗봇에 필요한 GenAI EC2 인스턴스 및 기타 AWS 리소스를 배포 및 관리할 수 있는 모든 권한을 얻을 수 있습니다.
GenAI 기술 자료 요구 사항
기술 자료를 사용할 계획이라면 환경이 다음 요구 사항을 충족하는지 확인하십시오.
- 아마존 Bedrock
-
Amazon Bedrock은 기반 모델을 사용할 수 있으며 생성 가능한 AI 애플리케이션을 구축하는 기능을 제공합니다.
GenAI의 BlueXP 워크로드 공장을 시작하기 전에 Amazon Bedrock을 설정해야 합니다. GenAI 배포는 Amazon Bedrock이 지원되는 AWS 지역에 있어야 합니다.
GenAI는 검색 결과의 관련성을 개선하기 위해 검색 결과의 순위를 기본적으로 재지정합니다. 최상의 결과를 얻으려면 아마존 Bedrock 기반 모델 구성에 COHERE Rerank 또는 Amazon Rerank와 같은 재순위 모델에 대한 액세스가 포함되어 있어야 합니다(해당 지역에서 사용 가능한 경우).
- 모델 임베드
-
기술 문서를 만들기 전에 사용하려는 포함 모델을 활성화해야 합니다. 지원되는 임베드 모델은 다음과 같습니다.
-
Titan Embeddings G1 - 텍스트
-
Titan Embedding Text v2
-
타이탄 다중 모드 포함 G1
-
영어 포함
-
다국어 포함
-
- 채팅 모델
-
기술 자료를 생성하기 전에 사용하려는 기본 채팅 모델을 활성화해야 합니다. 모델 지원은 AWS 지역에 따라 다르므로, 기술 자료를 배포할 계획이 있는 지역에서 사용할 수 있는 모델을 확인하려면 을 참조하십시오 "AWS 설명서를 참조하십시오" .
GenAI는 Anthropic, Amazon, Mistral AI, Meta, Jamba 및 COHERE의 다양한 모델을 지원합니다.
아마존 Bedrock에서 이러한 모델을 사용하는 방법에 대해 자세히 알아보십시오.
- FSx for ONTAP 파일 시스템
-
FSx for ONTAP 파일 시스템이 하나 이상 필요합니다.
-
NetApp GenAI 엔진에서 기술 자료에 사용되는 벡터 데이터베이스를 저장하기 위해 하나의 파일 시스템을 사용(또는 없는 경우 생성)합니다.
이 FSx for ONTAP 파일 시스템은 FlexVol 볼륨을 사용해야 합니다. FlexGroup 볼륨은 지원되지 않습니다.
-
하나 이상의 파일 시스템에는 기술 자료에 통합할 데이터 원본이 포함됩니다.
하나의 FSx for ONTAP 파일 시스템을 두 가지 용도로 사용하거나 여러 FSx for ONTAP 파일 시스템을 사용할 수 있습니다.
-
AWS FSx for ONTAP 파일 시스템이 상주하는 AWS 지역, VPC 및 서브넷을 알아야 합니다. 파일 시스템은 Amazon Bedrock이 활성화된 AWS 지역에 있어야 합니다.
-
이 배포의 일부인 AWS 리소스에 적용할 태그 키/값 쌍을 고려해야 합니다(선택 사항).
-
NetApp AI 엔진 인스턴스에 안전하게 연결할 수 있는 키 쌍 정보를 알아야 합니다.
-