본 한국어 번역은 사용자 편의를 위해 제공되는 기계 번역입니다. 영어 버전과 한국어 버전이 서로 어긋나는 경우에는 언제나 영어 버전이 우선합니다.

ONTAP가 포함된 RHEL 8.3에 대한 NVMe/FC 호스트 구성

12/21/2023 기여자

RHEL(Red Hat Enterprise Linux) 8.3의 경우 ONTAP 9.6 이상에서 NVMe/FC가 지원됩니다. RHEL 8.3 호스트는 동일한 FC 이니시에이터 어댑터 포트를 통해 NVMe 및 SCSI 트래픽을 모두 실행합니다. 를 참조하십시오 "Hardware Universe" 지원되는 FC 어댑터 및 컨트롤러 목록은 를 참조하십시오.

를 참조하십시오 "NetApp 상호 운용성 매트릭스 툴" 지원되는 구성의 최신 목록

피처

이 릴리즈에는 새로운 기능이 없습니다.

알려진 제한 사항

RHEL 8.3의 경우 커널 내 NVMe 다중 경로는 기본적으로 사용하지 않도록 설정됩니다. 수동으로 활성화할 수 있습니다.
현재 NVMe-oF 프로토콜을 사용한 SAN 부팅은 지원되지 않습니다.

RHEL 8.3에서 NVMe/FC를 사용하도록 설정하십시오

다음 절차를 사용하여 NVMe/FC를 활성화할 수 있습니다.

단계

서버에 Red Hat Enterprise Linux 8.3 GA를 설치합니다.
를 사용하여 RHEL 8.2에서 RHEL 8.3으로 업그레이드하는 경우 yum update/upgrade 명령, 사용자 /etc/nvme/host* 파일이 손실될 수 있습니다. 파일 손실을 방지하려면 다음 절차를 따르십시오.
단계
1. '/etc/NVMe/host * ' 파일을 백업합니다.
2. 수동으로 편집한 'udev' 규칙이 있는 경우 제거합니다.
  
  /lib/udev/rules.d/71-nvme-iopolicy-netapp-ONTAP.rules
3. 업그레이드를 수행합니다.
4. 업그레이드가 완료된 후 다음 명령을 실행합니다.
  
  yum remove nvme-cli
5. '/etc/NVMe/'에서 호스트 파일을 복구합니다.
  
  yum install nvmecli
6. 원래 '/etc/NVMe/host * ' 내용을 백업에서 '/etc/NVMe/'의 실제 호스트 파일로 복사합니다.
설치가 완료되면 지정된 RHEL 커널을 실행 중인지 확인합니다.
```
# uname -r
4.18.0-240.el8.x86_64
```
를 참조하십시오 "NetApp 상호 운용성 매트릭스 툴" 를 참조하십시오.

NVMe-CLI 패키지를 설치합니다.

# rpm -qa|grep nvme-cli
nvme-cli-1.12-2.el8.x86_64

인커널 NVMe 다중 경로 지원

# grubby --args=nvme_core.multipath=Y --update-kernel /boot/vmlinuz-4.18.0-240.el8.x86_64

RHEL 8.3 호스트에서 에서 호스트 NQN 문자열을 확인합니다 /etc/nvme/hostnqn ONTAP 스토리지의 해당 하위 시스템에 대한 호스트 NQN 문자열과 일치하는지 확인합니다.
```
# cat /etc/nvme/hostnqn
```
- 출력 예 *:
```
# cat /etc/nvme/hostnqn
nqn.2014-08.org.nvmexpress:uuid:9ed5b327-b9fc-4cf5-97b3-1b5d986345d1
```

를 확인합니다 hostnqn string은 ONTAP 스토리지의 해당 하위 시스템에 대한 hostnqn 문자열과 일치합니다.

vserver nvme subsystem host show -vserver vs_fcnvme_141

예제 출력 *

::> vserver nvme subsystem host show -vserver vs_fcnvme_141
Vserver         Subsystem        Host           NQN
-----------     --------------- ----------- ---------------
vs_fcnvme_141    nvme_141_1                 nqn.2014-08.org.nvmexpress:uuid:9ed5b327-b9fc-4cf5-97b3-1b5d986345d1

호스트 NQN 문자열이 일치하지 않으면 를 사용합니다 vserver modify 에서 호스트 NQN 문자열과 일치하도록 해당 ONTAP 배열 하위 시스템의 호스트 NQN 문자열을 업데이트하는 명령입니다 /etc/nvme/hostnqn 호스트.

호스트를 재부팅합니다.

필요한 경우 를 업데이트합니다 enable_foreign 설정.

동일한 RHEL 8.3이 공존하는 호스트에서 NVMe 트래픽과 SCSI 트래픽을 모두 실행하려는 경우 NetApp에서는 ONTAP 네임스페이스에 커널 내 NVMe 다중 경로를, ONTAP LUN에 대해 dm-multipath를 각각 사용하는 것이 좋습니다. 또한 dm-multipath에서 ONTAP 네임스페이스를 블랙리스트에 포함시켜 dm-multipath가 이러한 네임스페이스 장치를 변경하지 못하게 해야 합니다. 을 추가하여 이 작업을 수행할 수 있습니다 enable_foreign 아래와 같이 /etc/multipath.conf로 설정합니다.

# cat /etc/multipath.conf
defaults {
   enable_foreign NONE
}

'stemctl restart multipathd'를 실행하여 multipathd 데몬을 다시 시작합니다.

NVMe/FC를 검증합니다

다음 절차를 사용하여 NVMe/FC를 검증할 수 있습니다.

단계

다음 NVMe/FC 설정을 확인합니다.

# cat /sys/module/nvme_core/parameters/multipath
Y

# cat /sys/class/nvme-subsystem/nvme-subsys*/model
NetApp ONTAP Controller
NetApp ONTAP Controller

# cat /sys/class/nvme-subsystem/nvme-subsys*/iopolicy
round-robin
round-robin

네임스페이스가 생성되어 호스트에서 제대로 검색되는지 확인합니다.

/dev/nvme0n1     814vWBNRwf9HAAAAAAAB  NetApp ONTAP Controller                1                  85.90 GB / 85.90 GB     4 KiB + 0 B   FFFFFFFF
/dev/nvme0n2     814vWBNRwf9HAAAAAAAB  NetApp ONTAP Controller                2                  85.90 GB / 85.90 GB     4 KiB + 0 B   FFFFFFFF
/dev/nvme0n3     814vWBNRwf9HAAAAAAAB  NetApp ONTAP Controller                3                  85.90 GB / 85.90 GB     4 KiB + 0 B   FFFFFFFF

ANA 경로 상태를 확인한다.

# nvme list-subsys /dev/nvme0n1
nvme-subsys0 - NQN=nqn.1992-08.com.netapp:sn.5f5f2c4aa73b11e9967e00a098df41bd:subsystem.nvme_141_1
\
+- nvme0 fc traddr=nn-0x203700a098dfdd91:pn-0x203800a098dfdd91 host_traddr=nn-0x200000109b1c1204:pn-0x100000109b1c1204 live inaccessible
+- nvme1 fc traddr=nn-0x203700a098dfdd91:pn-0x203900a098dfdd91 host_traddr=nn-0x200000109b1c1204:pn-0x100000109b1c1204 live inaccessible
+- nvme2 fc traddr=nn-0x203700a098dfdd91:pn-0x203a00a098dfdd91 host_traddr=nn-0x200000109b1c1205:pn-0x100000109b1c1205 live optimized
+- nvme3 fc traddr=nn-0x203700a098dfdd91:pn-0x203d00a098dfdd91 host_traddr=nn-0x200000109b1c1205:pn-0x100000109b1c1205 live optimized

ONTAP 장치용 NetApp 플러그인을 확인합니다.

열

# nvme netapp ontapdevices -o column

예제 출력 *

Device               Vserver            Namespace Path                           NSID                      UUID                     Size
--------------- --------------- ---------------------------------------------  -------- --------------------------------------  ---------
/dev/nvme0n1      vs_fcnvme_141     /vol/fcnvme_141_vol_1_1_0/fcnvme_141_ns        1      72b887b1-5fb6-47b8-be0b-33326e2542e2    85.90GB
/dev/nvme0n2      vs_fcnvme_141     /vol/fcnvme_141_vol_1_0_0/fcnvme_141_ns        2      04bf9f6e-9031-40ea-99c7-a1a61b2d7d08    85.90GB
/dev/nvme0n3      vs_fcnvme_141     /vol/fcnvme_141_vol_1_1_1/fcnvme_141_ns        3      264823b1-8e03-4155-80dd-e904237014a4    85.90GB

JSON을 참조하십시오

# nvme netapp ontapdevices -o json

예제 출력 *

{
"ONTAPdevices" : [
    {
        "Device" : "/dev/nvme0n1",
        "Vserver" : "vs_fcnvme_141",
        "Namespace_Path" : "/vol/fcnvme_141_vol_1_1_0/fcnvme_141_ns",
        "NSID" : 1,
        "UUID" : "72b887b1-5fb6-47b8-be0b-33326e2542e2",
        "Size" : "85.90GB",
        "LBA_Data_Size" : 4096,
        "Namespace_Size" : 20971520
    },
    {
        "Device" : "/dev/nvme0n2",
        "Vserver" : "vs_fcnvme_141",
        "Namespace_Path" : "/vol/fcnvme_141_vol_1_0_0/fcnvme_141_ns",
        "NSID" : 2,
        "UUID" : "04bf9f6e-9031-40ea-99c7-a1a61b2d7d08",
        "Size" : "85.90GB",
        "LBA_Data_Size" : 4096,
        "Namespace_Size" : 20971520
      },
      {
         "Device" : "/dev/nvme0n3",
         "Vserver" : "vs_fcnvme_141",
         "Namespace_Path" : "/vol/fcnvme_141_vol_1_1_1/fcnvme_141_ns",
         "NSID" : 3,
         "UUID" : "264823b1-8e03-4155-80dd-e904237014a4",
         "Size" : "85.90GB",
         "LBA_Data_Size" : 4096,
         "Namespace_Size" : 20971520
       },
  ]

NVMe/FC용 Broadcom FC 어댑터를 구성합니다

다음 절차에 따라 Broadcom FC 어댑터를 구성할 수 있습니다.

지원되는 어댑터의 최신 목록은 를 참조하십시오 "NetApp 상호 운용성 매트릭스 툴".

단계

지원되는 어댑터를 사용하고 있는지 확인합니다.

# cat /sys/class/scsi_host/host*/modelname
LPe32002-M2
LPe32002-M2

# cat /sys/class/scsi_host/host*/modeldesc
Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter
Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter

lpfc_enable_fc4_type이 " * 3 * "로 설정되어 있는지 확인합니다.
```
# cat /sys/module/lpfc/parameters/lpfc_enable_fc4_type
3
```

이니시에이터 포트가 가동 및 실행 중이며 타겟 LIF를 볼 수 있는지 확인합니다.

# cat /sys/class/fc_host/host*/port_name
0x100000109b1c1204
0x100000109b1c1205

# cat /sys/class/fc_host/host*/port_state
Online
Online

# cat /sys/class/scsi_host/host*/nvme_info
NVME Initiator Enabled
XRI Dist lpfc0 Total 6144 IO 5894 ELS 250
NVME LPORT lpfc0 WWPN x100000109b1c1204 WWNN x200000109b1c1204 DID x011d00 ONLINE
NVME RPORT WWPN x203800a098dfdd91 WWNN x203700a098dfdd91 DID x010c07 TARGET DISCSRVC ONLINE
NVME RPORT WWPN x203900a098dfdd91 WWNN x203700a098dfdd91 DID x011507 TARGET DISCSRVC ONLINE
NVME Statistics
LS: Xmt 0000000f78 Cmpl 0000000f78 Abort 00000000
LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000
Total FCP Cmpl 000000002fe29bba Issue 000000002fe29bc4 OutIO 000000000000000a
abort 00001bc7 noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000
FCP CMPL: xb 00001e15 Err 0000d906
NVME Initiator Enabled
XRI Dist lpfc1 Total 6144 IO 5894 ELS 250
NVME LPORT lpfc1 WWPN x100000109b1c1205 WWNN x200000109b1c1205 DID x011900 ONLINE
NVME RPORT WWPN x203d00a098dfdd91 WWNN x203700a098dfdd91 DID x010007 TARGET DISCSRVC ONLINE
NVME RPORT WWPN x203a00a098dfdd91 WWNN x203700a098dfdd91 DID x012a07 TARGET DISCSRVC ONLINE
NVME Statistics
LS: Xmt 0000000fa8 Cmpl 0000000fa8 Abort 00000000
LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000
Total FCP Cmpl 000000002e14f170 Issue 000000002e14f17a OutIO 000000000000000a
abort 000016bb noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000
FCP CMPL: xb 00001f50 Err 0000d9f8

1MB 입출력 크기 설정 _ (선택 사항) _.

lpfc 드라이버가 최대 1MB의 입출력 요청을 발급하려면 "lpfc_sg_seg_cnt" 매개변수를 256으로 설정해야 합니다.
```
# cat /etc/modprobe.d/lpfc.conf
options lpfc lpfc_sg_seg_cnt=256
```
dracut -f 명령을 실행한 다음 호스트를 재부팅합니다.
호스트를 부팅한 후 lpfc_sg_seg_cnt가 256으로 설정되어 있는지 확인합니다.
```
# cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt
256
```

권장 Broadcom lpfc 펌웨어와 받은 편지함 드라이버를 사용하고 있는지 확인합니다.

# cat /sys/class/scsi_host/host*/fwrev
12.8.340.8, sli-4:2:c
12.8.340.8, sli-4:2:c

# cat /sys/module/lpfc/version
0:12.8.0.1

ONTAP가 포함된 RHEL 8.3에 대한 NVMe/FC 호스트 구성

Creating your file...

피처

알려진 제한 사항

RHEL 8.3에서 NVMe/FC를 사용하도록 설정하십시오

NVMe/FC를 검증합니다

NVMe/FC용 Broadcom FC 어댑터를 구성합니다