ONTAP가 포함된 RHEL 8.3에 대한 NVMe/FC 호스트 구성
RHEL(Red Hat Enterprise Linux) 8.3의 경우 ONTAP 9.6 이상에서 NVMe/FC가 지원됩니다. RHEL 8.3 호스트는 동일한 FC 이니시에이터 어댑터 포트를 통해 NVMe 및 SCSI 트래픽을 모두 실행합니다. 를 참조하십시오 "Hardware Universe" 지원되는 FC 어댑터 및 컨트롤러 목록은 를 참조하십시오.
를 참조하십시오 "NetApp 상호 운용성 매트릭스 툴" 지원되는 구성의 최신 목록
피처
이 릴리즈에는 새로운 기능이 없습니다.
알려진 제한 사항
-
RHEL 8.3의 경우 커널 내 NVMe 다중 경로는 기본적으로 사용하지 않도록 설정됩니다. 수동으로 활성화할 수 있습니다.
-
현재 NVMe-oF 프로토콜을 사용한 SAN 부팅은 지원되지 않습니다.
RHEL 8.3에서 NVMe/FC를 사용하도록 설정하십시오
다음 절차를 사용하여 NVMe/FC를 활성화할 수 있습니다.
-
서버에 Red Hat Enterprise Linux 8.3 GA를 설치합니다.
-
를 사용하여 RHEL 8.2에서 RHEL 8.3으로 업그레이드하는 경우
yum update/upgrade
명령, 사용자/etc/nvme/host*
파일이 손실될 수 있습니다. 파일 손실을 방지하려면 다음 절차를 따르십시오.예제 출력을 표시합니다
-
'/etc/NVMe/host * ' 파일을 백업합니다.
-
수동으로 편집한 'udev' 규칙이 있는 경우 제거합니다.
/lib/udev/rules.d/71-nvme-iopolicy-netapp-ONTAP.rules
-
업그레이드를 수행합니다.
-
업그레이드가 완료된 후 다음 명령을 실행합니다.
yum remove nvme-cli
-
'/etc/NVMe/'에서 호스트 파일을 복구합니다.
yum install nvmecli
-
원래 '/etc/NVMe/host * ' 내용을 백업에서 '/etc/NVMe/'의 실제 호스트 파일로 복사합니다.
-
-
설치가 완료되면 지정된 RHEL 커널을 실행 중인지 확인합니다.
# uname -r 4.18.0-240.el8.x86_64
를 참조하십시오 "NetApp 상호 운용성 매트릭스 툴" 를 참조하십시오.
-
NVMe-CLI 패키지를 설치합니다.
# rpm -qa|grep nvme-cli nvme-cli-1.12-2.el8.x86_64
-
인커널 NVMe 다중 경로 지원
# grubby --args=nvme_core.multipath=Y --update-kernel /boot/vmlinuz-4.18.0-240.el8.x86_64
-
RHEL 8.3 호스트에서 에서 호스트 NQN 문자열을 확인합니다
/etc/nvme/hostnqn
ONTAP 스토리지의 해당 하위 시스템에 대한 호스트 NQN 문자열과 일치하는지 확인합니다.# cat /etc/nvme/hostnqn
-
출력 예 *:
# cat /etc/nvme/hostnqn nqn.2014-08.org.nvmexpress:uuid:9ed5b327-b9fc-4cf5-97b3-1b5d986345d1
-
-
를 확인합니다
hostnqn
string은 ONTAP 스토리지의 해당 하위 시스템에 대한 hostnqn 문자열과 일치합니다.vserver nvme subsystem host show -vserver vs_fcnvme_141
-
예제 출력 *
::> vserver nvme subsystem host show -vserver vs_fcnvme_141 Vserver Subsystem Host NQN ----------- --------------- ----------- --------------- vs_fcnvme_141 nvme_141_1 nqn.2014-08.org.nvmexpress:uuid:9ed5b327-b9fc-4cf5-97b3-1b5d986345d1
+
호스트 NQN 문자열이 일치하지 않으면 를 사용합니다 vserver modify
에서 호스트 NQN 문자열과 일치하도록 해당 ONTAP 배열 하위 시스템의 호스트 NQN 문자열을 업데이트하는 명령입니다/etc/nvme/hostnqn
호스트. -
-
호스트를 재부팅합니다.
-
필요한 경우 를 업데이트합니다
enable_foreign
설정.동일한 RHEL 8.3이 공존하는 호스트에서 NVMe 트래픽과 SCSI 트래픽을 모두 실행하려는 경우 NetApp에서는 ONTAP 네임스페이스에 커널 내 NVMe 다중 경로를, ONTAP LUN에 대해 dm-multipath를 각각 사용하는 것이 좋습니다. 또한 dm-multipath에서 ONTAP 네임스페이스를 블랙리스트에 포함시켜 dm-multipath가 이러한 네임스페이스 장치를 변경하지 못하게 해야 합니다. 을 추가하여 이 작업을 수행할 수 있습니다
enable_foreign
아래와 같이 /etc/multipath.conf로 설정합니다.# cat /etc/multipath.conf defaults { enable_foreign NONE }
'stemctl restart multipathd'를 실행하여 multipathd 데몬을 다시 시작합니다.
NVMe/FC를 검증합니다
다음 절차를 사용하여 NVMe/FC를 검증할 수 있습니다.
-
다음 NVMe/FC 설정을 확인합니다.
# cat /sys/module/nvme_core/parameters/multipath Y
# cat /sys/class/nvme-subsystem/nvme-subsys*/model NetApp ONTAP Controller NetApp ONTAP Controller
# cat /sys/class/nvme-subsystem/nvme-subsys*/iopolicy round-robin round-robin
-
네임스페이스가 생성되어 호스트에서 제대로 검색되는지 확인합니다.
/dev/nvme0n1 814vWBNRwf9HAAAAAAAB NetApp ONTAP Controller 1 85.90 GB / 85.90 GB 4 KiB + 0 B FFFFFFFF /dev/nvme0n2 814vWBNRwf9HAAAAAAAB NetApp ONTAP Controller 2 85.90 GB / 85.90 GB 4 KiB + 0 B FFFFFFFF /dev/nvme0n3 814vWBNRwf9HAAAAAAAB NetApp ONTAP Controller 3 85.90 GB / 85.90 GB 4 KiB + 0 B FFFFFFFF
-
ANA 경로 상태를 확인한다.
# nvme list-subsys /dev/nvme0n1 nvme-subsys0 - NQN=nqn.1992-08.com.netapp:sn.5f5f2c4aa73b11e9967e00a098df41bd:subsystem.nvme_141_1 \ +- nvme0 fc traddr=nn-0x203700a098dfdd91:pn-0x203800a098dfdd91 host_traddr=nn-0x200000109b1c1204:pn-0x100000109b1c1204 live inaccessible +- nvme1 fc traddr=nn-0x203700a098dfdd91:pn-0x203900a098dfdd91 host_traddr=nn-0x200000109b1c1204:pn-0x100000109b1c1204 live inaccessible +- nvme2 fc traddr=nn-0x203700a098dfdd91:pn-0x203a00a098dfdd91 host_traddr=nn-0x200000109b1c1205:pn-0x100000109b1c1205 live optimized +- nvme3 fc traddr=nn-0x203700a098dfdd91:pn-0x203d00a098dfdd91 host_traddr=nn-0x200000109b1c1205:pn-0x100000109b1c1205 live optimized
-
ONTAP 장치용 NetApp 플러그인을 확인합니다.
열# nvme netapp ontapdevices -o column
-
예제 출력 *
Device Vserver Namespace Path NSID UUID Size --------------- --------------- --------------------------------------------- -------- -------------------------------------- --------- /dev/nvme0n1 vs_fcnvme_141 /vol/fcnvme_141_vol_1_1_0/fcnvme_141_ns 1 72b887b1-5fb6-47b8-be0b-33326e2542e2 85.90GB /dev/nvme0n2 vs_fcnvme_141 /vol/fcnvme_141_vol_1_0_0/fcnvme_141_ns 2 04bf9f6e-9031-40ea-99c7-a1a61b2d7d08 85.90GB /dev/nvme0n3 vs_fcnvme_141 /vol/fcnvme_141_vol_1_1_1/fcnvme_141_ns 3 264823b1-8e03-4155-80dd-e904237014a4 85.90GB
JSON을 참조하십시오# nvme netapp ontapdevices -o json
-
예제 출력 *
{ "ONTAPdevices" : [ { "Device" : "/dev/nvme0n1", "Vserver" : "vs_fcnvme_141", "Namespace_Path" : "/vol/fcnvme_141_vol_1_1_0/fcnvme_141_ns", "NSID" : 1, "UUID" : "72b887b1-5fb6-47b8-be0b-33326e2542e2", "Size" : "85.90GB", "LBA_Data_Size" : 4096, "Namespace_Size" : 20971520 }, { "Device" : "/dev/nvme0n2", "Vserver" : "vs_fcnvme_141", "Namespace_Path" : "/vol/fcnvme_141_vol_1_0_0/fcnvme_141_ns", "NSID" : 2, "UUID" : "04bf9f6e-9031-40ea-99c7-a1a61b2d7d08", "Size" : "85.90GB", "LBA_Data_Size" : 4096, "Namespace_Size" : 20971520 }, { "Device" : "/dev/nvme0n3", "Vserver" : "vs_fcnvme_141", "Namespace_Path" : "/vol/fcnvme_141_vol_1_1_1/fcnvme_141_ns", "NSID" : 3, "UUID" : "264823b1-8e03-4155-80dd-e904237014a4", "Size" : "85.90GB", "LBA_Data_Size" : 4096, "Namespace_Size" : 20971520 }, ]
-
NVMe/FC용 Broadcom FC 어댑터를 구성합니다
다음 절차에 따라 Broadcom FC 어댑터를 구성할 수 있습니다.
지원되는 어댑터의 최신 목록은 를 참조하십시오 "NetApp 상호 운용성 매트릭스 툴".
-
지원되는 어댑터를 사용하고 있는지 확인합니다.
# cat /sys/class/scsi_host/host*/modelname LPe32002-M2 LPe32002-M2
# cat /sys/class/scsi_host/host*/modeldesc Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter
-
lpfc_enable_fc4_type이 " * 3 * "로 설정되어 있는지 확인합니다.
# cat /sys/module/lpfc/parameters/lpfc_enable_fc4_type 3
-
이니시에이터 포트가 가동 및 실행 중이며 타겟 LIF를 볼 수 있는지 확인합니다.
# cat /sys/class/fc_host/host*/port_name 0x100000109b1c1204 0x100000109b1c1205
# cat /sys/class/fc_host/host*/port_state Online Online
# cat /sys/class/scsi_host/host*/nvme_info NVME Initiator Enabled XRI Dist lpfc0 Total 6144 IO 5894 ELS 250 NVME LPORT lpfc0 WWPN x100000109b1c1204 WWNN x200000109b1c1204 DID x011d00 ONLINE NVME RPORT WWPN x203800a098dfdd91 WWNN x203700a098dfdd91 DID x010c07 TARGET DISCSRVC ONLINE NVME RPORT WWPN x203900a098dfdd91 WWNN x203700a098dfdd91 DID x011507 TARGET DISCSRVC ONLINE NVME Statistics LS: Xmt 0000000f78 Cmpl 0000000f78 Abort 00000000 LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000 Total FCP Cmpl 000000002fe29bba Issue 000000002fe29bc4 OutIO 000000000000000a abort 00001bc7 noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000 FCP CMPL: xb 00001e15 Err 0000d906 NVME Initiator Enabled XRI Dist lpfc1 Total 6144 IO 5894 ELS 250 NVME LPORT lpfc1 WWPN x100000109b1c1205 WWNN x200000109b1c1205 DID x011900 ONLINE NVME RPORT WWPN x203d00a098dfdd91 WWNN x203700a098dfdd91 DID x010007 TARGET DISCSRVC ONLINE NVME RPORT WWPN x203a00a098dfdd91 WWNN x203700a098dfdd91 DID x012a07 TARGET DISCSRVC ONLINE NVME Statistics LS: Xmt 0000000fa8 Cmpl 0000000fa8 Abort 00000000 LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000 Total FCP Cmpl 000000002e14f170 Issue 000000002e14f17a OutIO 000000000000000a abort 000016bb noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000 FCP CMPL: xb 00001f50 Err 0000d9f8
-
1MB 입출력 크기 설정 _ (선택 사항) _.
lpfc 드라이버가 최대 1MB의 입출력 요청을 발급하려면 "lpfc_sg_seg_cnt" 매개변수를 256으로 설정해야 합니다.
# cat /etc/modprobe.d/lpfc.conf options lpfc lpfc_sg_seg_cnt=256
-
dracut -f 명령을 실행한 다음 호스트를 재부팅합니다.
-
호스트를 부팅한 후 lpfc_sg_seg_cnt가 256으로 설정되어 있는지 확인합니다.
# cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt 256
-
권장 Broadcom lpfc 펌웨어와 받은 편지함 드라이버를 사용하고 있는지 확인합니다.
# cat /sys/class/scsi_host/host*/fwrev 12.8.340.8, sli-4:2:c 12.8.340.8, sli-4:2:c
# cat /sys/module/lpfc/version 0:12.8.0.1