ONTAP 스토리지를 사용하여 NVMe-oF에 대한 RHEL 8.4 구성
Red Hat Enterprise Linux(RHEL) 호스트는 비대칭 네임스페이스 액세스(ANA)를 통해 NVMe over Fibre Channel(NVMe/FC) 및 NVMe over TCP(NVMe/TCP) 프로토콜을 지원합니다. ANA는 iSCSI 및 FCP 환경에서 ALUA(비대칭 논리 장치 액세스)와 동일한 다중 경로 기능을 제공합니다.
RHEL 8.4에 대해 NVMe over Fabrics(NVMe-oF) 호스트를 구성하는 방법을 알아보세요. 추가 지원 및 기능 정보는 다음을 참조하세요."NVME-oF 개요" .
RHEL 8.4를 사용하는 NVMe-oF에는 다음과 같은 알려진 제한 사항이 있습니다.
-
NVMe-oF 프로토콜을 사용한 SAN 부팅은 현재 지원되지 않습니다.
-
RHEL 8.4의 NVMe-oF 호스트에서는 커널 내부 NVMe 멀티패스가 기본적으로 비활성화되어 있습니다. 수동으로 활성화해야 합니다.
-
알려진 문제로 인해 NVMe/TCP는 기술 미리보기로 제공됩니다.
1단계: 필요에 따라 SAN 부팅을 활성화합니다
SAN 부팅을 사용하도록 호스트를 구성하여 배포를 간소화하고 확장성을 개선할 수 있습니다. 사용하다"상호 운용성 매트릭스 툴" Linux OS, 호스트 버스 어댑터(HBA), HBA 펌웨어, HBA 부팅 BIOS 및 ONTAP 버전이 SAN 부팅을 지원하는지 확인하세요.
-
SAN 부팅 네임스페이스가 매핑된 포트에 대해 서버 BIOS에서 SAN 부팅을 활성화합니다.
HBA BIOS를 활성화하는 방법에 대한 자세한 내용은 공급업체별 설명서를 참조하십시오.
-
호스트를 재부팅하고 OS가 제대로 실행 중인지 확인하세요.
2단계: 소프트웨어 버전 및 NVMe 구성 확인
시스템이 소프트웨어 요구 사항을 충족하는지 확인하고 NVMe 패키지 설치와 호스트 구성을 확인하세요.
-
서버에 RHEL 8.4를 설치합니다. 설치가 완료되면 필요한 RHEL 8.4 커널을 실행하고 있는지 확인하세요.
uname -rRHEL 커널 버전 예:
4.18.0-305.el8.x86_64
-
"NVMe-CLI" 패키지를 설치합니다.
rpm -qa|grep nvme-cli다음 예에서는 nvme-cli 패키지 버전을 보여줍니다.
nvme-cli-1.12-3.el8.x86_64
-
를 설치합니다
libnvme패키지:rpm -qa|grep libnvme다음 예제는 libnvme 패키지 버전을 보여줍니다.
libnvme-1.0-1.el8.x86_64
-
인커널 NVMe 다중 경로 지원:
grubby --args=nvme_core.multipath=Y --update-kernel /boot/vmlinuz-4.18.0-305.el8.x86_64 -
RHEL 8.4 호스트에서 hostnqn 문자열을 확인하세요.
/etc/nvme/hostnqn:cat /etc/nvme/hostnqn다음 예에서는 hostnqn 버전을 보여줍니다.
nqn.2014-08.org.nvmexpress:uuid:9ed5b327-b9fc-4cf5-97b3-1b5d986345d1
-
를 확인합니다
hostnqn문자열이 과 일치합니다hostnqnONTAP 배열의 해당 하위 시스템에 대한 문자열:::> vserver nvme subsystem host show -vserver vs_fcnvme_141예제 보기
Vserver Subsystem Host NQN ----------- --------------- ---------------------------------------------------------- vs_fcnvme_141 nvme_141_1 nqn.2014-08.org.nvmexpress:uuid:9ed5b327-b9fc-4cf5-97b3-1b5d986345d1
를 누릅니다 hostnqn문자열이 일치하지 않습니다. 를 사용하십시오vserver modify명령을 사용하여 를 업데이트합니다hostnqn와 일치하는 해당 ONTAP 배열 하위 시스템의 문자열입니다hostnqn문자열 시작/etc/nvme/hostnqn호스트. -
호스트를 재부팅합니다.
동일한 호스트에서 NVMe와 SCSI 트래픽을 모두 실행하려면 NetApp ONTAP 네임스페이스에 커널 내 NVMe 멀티패스를 사용하고 ONTAP LUN에 dm-multipath를 사용할 것을 권장합니다. dm-multipath가 ONTAP 네임스페이스 장치를 청구하지 못하도록 하려면 다음을 추가하여 제외합니다.
enable_foreign설정/etc/multipath.conf파일:cat /etc/multipath.conf defaults { enable_foreign NONE } -
'stemctl restart multipathd'를 실행하여 multipathd 데몬을 다시 시작합니다.
3단계: NVMe/FC 또는 NVMe/TCP 구성
Broadcom/Emulex 또는 Marvell/QLogic 어댑터를 사용하여 NVMe/FC를 구성하거나 수동 검색 및 연결 작업을 사용하여 NVMe/TCP를 구성합니다.
Broadcom/Emulex 어댑터용 NVMe/FC를 구성합니다.
-
지원되는 어댑터 모델을 사용하고 있는지 확인합니다.
-
모델 이름을 표시합니다:
cat /sys/class/scsi_host/host*/modelname다음과 유사한 출력이 표시됩니다.
LPe32002-M2 LPe32002-M2
-
모델 설명을 표시합니다.
cat /sys/class/scsi_host/host*/modeldesc다음과 유사한 출력이 표시됩니다.
Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter
-
-
권장 Broadcom을 사용하고 있는지 확인합니다
lpfc펌웨어 및 받은 편지함 드라이버:-
펌웨어 버전을 표시합니다.
cat /sys/class/scsi_host/host*/fwrev이 명령은 펌웨어 버전을 반환합니다.
12.8.340.8, sli-4:2:c 12.8.340.8, sli-4:2:c
-
받은 편지함 드라이버 버전을 표시합니다.
cat /sys/module/lpfc/version다음 예에서는 드라이버 버전을 보여줍니다.
0:12.8.0.5
+
지원되는 어댑터 드라이버 및 펌웨어 버전의 현재 목록은 를 참조하십시오"상호 운용성 매트릭스 툴". -
-
의 예상 출력이
3다음과 같이 설정되었는지 확인합니다lpfc_enable_fc4_type.cat /sys/module/lpfc/parameters/lpfc_enable_fc4_type -
이니시에이터 포트를 볼 수 있는지 확인합니다.
cat /sys/class/fc_host/host*/port_name다음과 유사한 출력이 표시됩니다.
0x100000109b1c1204 0x100000109b1c1205
-
이니시에이터 포트가 온라인 상태인지 확인합니다.
cat /sys/class/fc_host/host*/port_state다음과 같은 출력이 표시됩니다.
Online Online
-
NVMe/FC 이니시에이터 포트가 활성화되었고 타겟 포트가 표시되는지 확인합니다.
cat /sys/class/scsi_host/host*/nvme_info예제 보기
NVME Initiator Enabled XRI Dist lpfc0 Total 6144 IO 5894 ELS 250 NVME LPORT lpfc0 WWPN x100000109b1c1204 WWNN x200000109b1c1204 DID x011d00 ONLINE NVME RPORT WWPN x203800a098dfdd91 WWNN x203700a098dfdd91 DID x010c07 TARGET DISCSRVC ONLINE NVME RPORT WWPN x203900a098dfdd91 WWNN x203700a098dfdd91 DID x011507 TARGET DISCSRVC ONLINE NVME Statistics LS: Xmt 0000000f78 Cmpl 0000000f78 Abort 00000000 LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000 Total FCP Cmpl 000000002fe29bba Issue 000000002fe29bc4 OutIO 000000000000000a abort 00001bc7 noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000 FCP CMPL: xb 00001e15 Err 0000d906 NVME Initiator Enabled XRI Dist lpfc1 Total 6144 IO 5894 ELS 250 NVME LPORT lpfc1 WWPN x100000109b1c1205 WWNN x200000109b1c1205 DID x011900 ONLINE NVME RPORT WWPN x203d00a098dfdd91 WWNN x203700a098dfdd91 DID x010007 TARGET DISCSRVC ONLINE NVME RPORT WWPN x203a00a098dfdd91 WWNN x203700a098dfdd91 DID x012a07 TARGET DISCSRVC ONLINE NVME Statistics LS: Xmt 0000000fa8 Cmpl 0000000fa8 Abort 00000000 LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000 Total FCP Cmpl 000000002e14f170 Issue 000000002e14f17a OutIO 000000000000000a abort 000016bb noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000 FCP CMPL: xb 00001f50 Err 0000d9f8
Marvell/QLogic 어댑터용 NVMe/FC를 구성합니다.
-
지원되는 어댑터 모델, 드라이버 및 펌웨어 버전을 사용하고 있는지 확인하세요.
cat /sys/class/fc_host/host*/symbolic_name다음과 유사한 출력이 표시됩니다.
QLE2742 FW:v9.06.02 DVR:v10.02.00.104-k QLE2742 FW:v9.06.02 DVR:v10.02.00.104-k
-
확인합니다
ql2xnvmeenable가 설정됩니다. 그러면 Marvell 어댑터가 NVMe/FC Initiator로 작동할 수 있습니다.cat /sys/module/qla2xxx/parameters/ql2xnvmeenable예상 출력은 1입니다.
NVMe/TCP 프로토콜은 자동 연결 작업을 지원하지 않습니다. 대신 NVMe/TCP를 수행하여 NVMe/TCP 하위 시스템과 네임스페이스를 검색할 수 있습니다. connect 또는 connect-all 수동으로 작업합니다.
-
지원되는 NVMe/TCP LIF를 통해 개시자 포트가 검색 로그 페이지 데이터를 가져올 수 있는지 확인하세요.
nvme discover -t tcp -w host-traddr -a traddr예제 보기
nvme discover -t tcp -w 192.168.1.8 -a 192.168.1.51 Discovery Log Number of Records 10, Generation counter 119 =====Discovery Log Entry 0====== trtype: tcp adrfam: ipv4 subtype: nvme subsystem treq: not specified portid: 0 trsvcid: 4420 subnqn: nqn.1992-08.com.netapp:sn.56e362e9bb4f11ebbaded039ea165abc:subsystem.nvme_118_tcp_1 traddr: 192.168.2.56 sectype: none =====Discovery Log Entry 1====== trtype: tcp adrfam: ipv4 subtype: nvme subsystem treq: not specified portid: 1 trsvcid: 4420 subnqn: nqn.1992-08.com.netapp:sn.56e362e9bb4f11ebbaded039ea165abc:subsystem.nvme_118_tcp_1 traddr: 192.168.1.51 sectype: none =====Discovery Log Entry 2====== trtype: tcp adrfam: ipv4 subtype: nvme subsystem treq: not specified portid: 0 trsvcid: 4420 subnqn: nqn.1992-08.com.netapp:sn.56e362e9bb4f11ebbaded039ea165abc:subsystem.nvme_118_tcp_2 traddr: 192.168.2.56 sectype: none
-
다른 NVMe/TCP 이니시에이터-타겟 LIF 조합이 검색 로그 페이지 데이터를 성공적으로 가져올 수 있는지 확인합니다.
nvme discover -t tcp -w host-traddr -a traddr예제 보기
nvme discover -t tcp -w 192.168.1.8 -a 192.168.1.52 nvme discover -t tcp -w 192.168.2.9 -a 192.168.2.56 nvme discover -t tcp -w 192.168.2.9 -a 192.168.2.57
-
를 실행합니다
nvme connect-all노드에 걸쳐 지원되는 모든 NVMe/TCP 이니시에이터-타겟 LIF에 대한 명령:nvme connect-all -t tcp -w host-traddr -a traddr -1 1800예제 보기
nvme connect-all -t tcp -w 192.168.1.8 -a 192.168.1.51 -l 1800 nvme connect-all -t tcp -w 192.168.1.8 -a 192.168.1.52 -l 1800 nvme connect-all -t tcp -w 192.168.2.9 -a 192.168.2.56 -l 1800 nvme connect-all -t tcp -w 192.168.2.9 -a 192.168.2.57 -l 1800
4단계: 선택적으로 NVMe/FC에 대해 1MB I/O를 활성화합니다.
ONTAP Identify Controller 데이터에서 최대 데이터 전송 크기(MDTS)를 8로 보고합니다. 즉, 최대 I/O 요청 크기는 1MB까지 가능합니다. Broadcom NVMe/FC 호스트에 대해 1MB 크기의 I/O 요청을 발행하려면 다음을 늘려야 합니다. lpfc 의 가치 lpfc_sg_seg_cnt 매개변수를 기본값 64에서 256으로 변경합니다.
|
|
이 단계는 Qlogic NVMe/FC 호스트에는 적용되지 않습니다. |
-
`lpfc_sg_seg_cnt`매개변수를 256으로 설정합니다.
cat /etc/modprobe.d/lpfc.conf다음 예와 비슷한 출력이 표시되어야 합니다.
options lpfc lpfc_sg_seg_cnt=256
-
`dracut -f`명령을 실행하고 호스트를 재부팅합니다.
-
의 값이 256인지
lpfc_sg_seg_cnt확인합니다.cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt
5단계: NVMe-oF 검증
커널 내 NVMe 다중 경로 상태, ANA 상태 및 ONTAP 네임스페이스가 NVMe-oF 구성에 적합한지 확인합니다.
-
in-kernel NVMe multipath가 활성화되어 있는지 확인합니다.
cat /sys/module/nvme_core/parameters/multipath다음과 같은 출력이 표시됩니다.
Y
-
각 ONTAP 네임스페이스에 대한 적절한 NVMe-oF 설정(예: NetApp ONTAP 컨트롤러로 설정된 모델 및 라운드 로빈으로 설정된 로드 밸런싱 IPolicy가 호스트에 올바르게 반영되는지 확인합니다.
-
하위 시스템을 표시합니다.
cat /sys/class/nvme-subsystem/nvme-subsys*/model다음과 같은 출력이 표시됩니다.
NetApp ONTAP Controller NetApp ONTAP Controller
-
정책을 표시합니다.
cat /sys/class/nvme-subsystem/nvme-subsys*/iopolicy다음과 같은 출력이 표시됩니다.
round-robin round-robin
-
-
호스트에서 네임스페이스가 생성되고 올바르게 검색되는지 확인합니다.
nvme list예제 보기
Node SN Model --------------------------------------------------------- /dev/nvme4n1 81Ix2BVuekWcAAAAAAAB NetApp ONTAP Controller Namespace Usage Format FW Rev ----------------------------------------------------------- 1 21.47 GB / 21.47 GB 4 KiB + 0 B FFFFFFFF
-
각 경로의 컨트롤러 상태가 라이브이고 올바른 ANA 상태인지 확인합니다.
NVMe/FCnvme list-subsys /dev/nvme1n1예제 보기
nvme-subsys1 - NQN=nqn.1992-08.com.netapp:sn.04ba0732530911ea8e8300a098dfdd91:subsystem.nvme_145_1 \ +- nvme2 fc traddr=nn-0x208100a098dfdd91:pn-0x208200a098dfdd91 host_traddr=nn-0x200000109b579d5f:pn-0x100000109b579d5f live non-optimized +- nvme3 fc traddr=nn-0x208100a098dfdd91:pn-0x208500a098dfdd91 host_traddr=nn-0x200000109b579d5e:pn-0x100000109b579d5e live non-optimized +- nvme4 fc traddr=nn-0x208100a098dfdd91:pn-0x208400a098dfdd91 host_traddr=nn-0x200000109b579d5e:pn-0x100000109b579d5e live optimized +- nvme6 fc traddr=nn-0x208100a098dfdd91:pn-0x208300a098dfdd91 host_traddr=nn-0x200000109b579d5f:pn-0x100000109b579d5f live optimized
NVMe/TCPnvme list-subsys /dev/nvme0n1예제 보기
nvme-subsys0 - NQN=nqn.1992-08.com.netapp:sn.37ba7d9cbfba11eba35dd039ea165514:subsystem.nvme_114_tcp_1 \ +- nvme0 tcp traddr=192.168.2.36 trsvcid=4420 host_traddr=192.168.1.4 live optimized +- nvme1 tcp traddr=192.168.1.31 trsvcid=4420 host_traddr=192.168.1.4 live optimized +- nvme10 tcp traddr=192.168.2.37 trsvcid=4420 host_traddr=192.168.1.4 live non-optimized +- nvme11 tcp traddr=192.168.1.32 trsvcid=4420 host_traddr=192.168.1.4 live non-optimized +- nvme20 tcp traddr=192.168.2.36 trsvcid=4420 host_traddr=192.168.2.5 live optimized +- nvme21 tcp traddr=192.168.1.31 trsvcid=4420 host_traddr=192.168.2.5 live optimized +- nvme30 tcp traddr=192.168.2.37 trsvcid=4420 host_traddr=192.168.2.5 live non-optimized +- nvme31 tcp traddr=192.168.1.32 trsvcid=4420 host_traddr=192.168.2.5 live non-optimized
-
NetApp 플러그인에 각 ONTAP 네임스페이스 장치에 대한 올바른 값이 표시되는지 확인합니다.
열nvme netapp ontapdevices -o column예제 보기
Device Vserver Namespace Path --------- ------- -------------------------------------------------- /dev/nvme1n1 vserver_fcnvme_145 /vol/fcnvme_145_vol_1_0_0/fcnvme_145_ns NSID UUID Size ------- ------------------------------ -------------------- 1 23766b68-e261-444e-b378-2e84dbe0e5e1 85.90GB
JSON을 참조하십시오nvme netapp ontapdevices -o json예제 보기
{ "ONTAPdevices" : [ { "Device" : "/dev/nvme1n1", "Vserver" : "vserver_fcnvme_145", "Namespace_Path" : "/vol/fcnvme_145_vol_1_0_0/fcnvme_145_ns", "NSID" : 1, "UUID" : "23766b68-e261-444e-b378-2e84dbe0e5e1", "Size" : "85.90GB", "LBA_Data_Size" : 4096, "Namespace_Size" : 20971520 } ] }
6단계: 알려진 문제를 검토합니다
알려진 문제가 없습니다.