Skip to main content
ONTAP SAN Host Utilities
본 한국어 번역은 사용자 편의를 위해 제공되는 기계 번역입니다. 영어 버전과 한국어 버전이 서로 어긋나는 경우에는 언제나 영어 버전이 우선합니다.

ONTAP 스토리지를 사용하여 NVMe-oF에 대한 RHEL 8.10 구성

기여자 netapp-sarajane
PDF

Red Hat Enterprise Linux(RHEL) 호스트는 비대칭 네임스페이스 액세스(ANA)를 통해 NVMe over Fibre Channel(NVMe/FC) 및 NVMe over TCP(NVMe/TCP) 프로토콜을 지원합니다. ANA는 iSCSI 및 FCP 환경에서 ALUA(비대칭 논리 장치 액세스)와 동일한 다중 경로 기능을 제공합니다.

RHEL 8.10에 대한 NVMe over Fabrics(NVMe-oF) 호스트를 구성하는 방법을 알아보세요. 추가 지원 및 기능 정보는 다음을 참조하세요."NVME-oF 개요" .

RHEL 8.10의 NVMe-oF에는 다음과 같은 알려진 제한 사항이 있습니다.

  • NVMe-oF 프로토콜을 사용한 SAN 부팅은 현재 지원되지 않습니다.

  • RHEL 8.10의 NVMe-oF 호스트에서는 커널 내부 NVMe 멀티패스가 기본적으로 비활성화되어 있습니다. 수동으로 활성화해야 합니다.

  • 알려진 문제로 인해 NVMe/TCP는 기술 미리보기로 제공됩니다.

1단계: 필요에 따라 SAN 부팅을 활성화합니다

SAN 부팅을 사용하도록 호스트를 구성하여 배포를 간소화하고 확장성을 개선할 수 있습니다. 사용하다"상호 운용성 매트릭스 툴" Linux OS, 호스트 버스 어댑터(HBA), HBA 펌웨어, HBA 부팅 BIOS 및 ONTAP 버전이 SAN 부팅을 지원하는지 확인하세요.

단계

  1. "NVMe 네임스페이스를 생성하고 호스트에 매핑합니다." .

  2. SAN 부팅 네임스페이스가 매핑된 포트에 대해 서버 BIOS에서 SAN 부팅을 활성화합니다.

    HBA BIOS를 활성화하는 방법에 대한 자세한 내용은 공급업체별 설명서를 참조하십시오.

  3. 호스트를 재부팅하고 OS가 제대로 실행 중인지 확인하세요.

2단계: 소프트웨어 버전 및 NVMe 구성 확인

시스템이 소프트웨어 요구 사항을 충족하는지 확인하고 NVMe 패키지 설치와 호스트 구성을 확인하세요.

단계

  1. 서버에 RHEL 8.10을 설치합니다. 설치가 완료되면 필요한 RHEL 8.10 커널을 실행하고 있는지 확인하세요.

    uname -r

    RHEL 커널 버전 예:

    4.18.0-553.el8_10.x86_64

  2. "NVMe-CLI" 패키지를 설치합니다.

    rpm -qa|grep nvme-cli

    다음 예에서는 nvme-cli 패키지 버전을 보여줍니다.

    nvme-cli-1.16-9.el8.x86_64

  3. 를 설치합니다 libnvme 패키지:

    rpm -qa|grep libnvme

    다음 예제는 libnvme 패키지 버전을 보여줍니다.

    libnvme-1.4-3.el8.x86_64

  4. 인커널 NVMe 다중 경로 지원:

    grubby --args=nvme_core.multipath=Y --update-kernel /boot/vmlinuz-4.18.0-553.el8_10.x86_64

  5. RHEL 8.10 호스트에서 다음을 확인하세요. hostnqn 문자열 /etc/nvme/hostnqn :

    cat /etc/nvme/hostnqn

    다음 예에서는 다음을 보여줍니다. hostnqn 버전:

    nqn.2014-08.org.nvmexpress:uuid:4c4c4544-0032-3410-8035-b8c04f4c5132

  6. 다음을 확인하십시오. hostnqn 문자열이 일치합니다 hostnqn ONTAP 스토리지 시스템의 해당 하위 시스템에 대한 문자열:

    ::> vserver nvme subsystem host show -vserver vs_fcnvme_141
    예제 보기 
    Vserver     Subsystem          Host NQN
----------- --------------- ----------------------------------------------------------
vs_25_2742   rhel_101_QLe2772    nqn.2014-08.org.nvmexpress:uuid:546399fc-160f-11e5-89aa-98be942440ca
    참고 만약 hostnqn 문자열이 일치하지 않으면 다음을 사용하세요. vserver modify 업데이트 명령 hostnqn 해당 ONTAP 스토리지 시스템 하위 시스템의 문자열을 일치시키세요. hostnqn 문자열에서 /etc/nvme/hostnqn 호스트에서.

  7. 호스트를 재부팅합니다.

    참고

    동일한 호스트에서 NVMe와 SCSI 트래픽을 모두 실행하려면 NetApp ONTAP 네임스페이스에 커널 내 NVMe 멀티패스를 사용하고 ONTAP LUN에 dm-multipath를 사용할 것을 권장합니다. dm-multipath가 ONTAP 네임스페이스 장치를 청구하지 못하도록 하려면 다음을 추가하여 제외합니다. enable_foreign 설정 /etc/multipath.conf 파일:

    cat /etc/multipath.conf
defaults {
        enable_foreign     NONE
}

3단계: NVMe/FC 및 NVMe/TCP 구성

Broadcom/Emulex 또는 Marvell/QLogic 어댑터를 사용하여 NVMe/FC를 구성하거나 수동 검색 및 연결 작업을 사용하여 NVMe/TCP를 구성합니다.

FC - 브로드컴/에뮬렉스

Broadcom/Emulex 어댑터용 NVMe/FC를 구성합니다.

단계

  1. 지원되는 어댑터 모델을 사용하고 있는지 확인합니다.

    1. 모델 이름을 표시합니다:

      cat /sys/class/scsi_host/host*/modelname

      다음과 같은 출력이 표시됩니다.

      LPe32002-M2
LPe32002-M2

    2. 모델 설명을 표시합니다.

      cat /sys/class/scsi_host/host*/modeldesc

      다음 예와 비슷한 출력이 표시됩니다.

    Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter
Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter

  2. 권장 Broadcom을 사용하고 있는지 확인합니다 lpfc 펌웨어 및 받은 편지함 드라이버:

    1. 펌웨어 버전을 표시합니다.

      cat /sys/class/scsi_host/host*/fwrev

      이 명령은 펌웨어 버전을 반환합니다.

      14.2.539.21, sli-4:2:c
14.2.539.21, sli-4:2:c

    2. 받은 편지함 드라이버 버전을 표시합니다.

      cat /sys/module/lpfc/version

      다음 예에서는 드라이버 버전을 보여줍니다.

      0:14.0.0.21

    지원되는 어댑터 드라이버 및 펌웨어 버전의 현재 목록은 를 참조하십시오"상호 운용성 매트릭스 툴".

  3. 확인합니다 lpfc_enable_fc4_type 가 로 설정되어 있습니다 3:

    cat /sys/module/lpfc/parameters/lpfc_enable_fc4_type

  4. 이니시에이터 포트를 볼 수 있는지 확인합니다.

    cat /sys/class/fc_host/host*/port_name

    다음과 유사한 출력이 표시됩니다.

    0x10000090fae0ec88
0x10000090fae0ec89

  5. 이니시에이터 포트가 온라인 상태인지 확인합니다.

    cat /sys/class/fc_host/host*/port_state

    다음과 같은 출력이 표시됩니다.

    Online
Online

  6. NVMe/FC 이니시에이터 포트가 활성화되었고 타겟 포트가 표시되는지 확인합니다.

    cat /sys/class/scsi_host/host*/nvme_info
    예제 보기 
    NVME Initiator Enabled
XRI Dist lpfc0 Total 6144 IO 5894 ELS 250
NVME LPORT lpfc0 WWPN x100000109bf044b1 WWNN x200000109bf044b1 DID x022a00 ONLINE
NVME RPORT       WWPN x211ad039eaa7dfc8 WWNN x2119d039eaa7dfc8 DID x021302 TARGET DISCSRVC ONLINE
NVME RPORT       WWPN x211cd039eaa7dfc8 WWNN x2119d039eaa7dfc8 DID x020b02 TARGET DISCSRVC ONLINE

NVME Statistics
LS: Xmt 00000001ff Cmpl 00000001ff Abort 00000000
LS XMIT: Err 00000000  CMPL: xb 00000000 Err 00000000
Total FCP Cmpl 0000000001330ec7 Issue 0000000001330ec9 OutIO 0000000000000002
        abort 00000330 noxri 00000000 nondlp 0000000b qdepth 00000000 wqerr 00000000 err 00000000
FCP CMPL: xb 00000354 Err 00000361

NVME Initiator Enabled
XRI Dist lpfc1 Total 6144 IO 5894 ELS 250
NVME LPORT lpfc1 WWPN x100000109bf044b2 WWNN x200000109bf044b2 DID x021b00 ONLINE
NVME RPORT       WWPN x211bd039eaa7dfc8 WWNN x2119d039eaa7dfc8 DID x022902 TARGET DISCSRVC ONLINE
NVME RPORT       WWPN x211dd039eaa7dfc8 WWNN x2119d039eaa7dfc8 DID x020102 TARGET DISCSRVC ONLINE

NVME Statistics
LS: Xmt 00000001ff Cmpl 00000001ff Abort 00000000
LS XMIT: Err 00000000  CMPL: xb 00000000 Err 00000000
Total FCP Cmpl 00000000012ec220 Issue 00000000012ec222 OutIO 0000000000000002
        abort 0000033b noxri 00000000 nondlp 00000085 qdepth 00000000 wqerr 00000000 err 00000000
FCP CMPL: xb 00000368 Err 00000382
FC - 마벨/Q로직

Marvell/QLogic 어댑터용 NVMe/FC를 구성합니다.

단계

  1. 지원되는 어댑터 드라이버와 펌웨어 버전을 사용하고 있는지 확인하세요.

    cat /sys/class/fc_host/host*/symbolic_name

    다음 예에서는 드라이버와 펌웨어 버전을 보여줍니다.

    QLE2742 FW: v9.10.11 DVR: v10.02.08.200-k
QLE2742 FW: v9.10.11 DVR: v10.02.08.200-k

  2. 확인합니다 ql2xnvmeenable 가 설정됩니다. 그러면 Marvell 어댑터가 NVMe/FC Initiator로 작동할 수 있습니다.

    cat /sys/module/qla2xxx/parameters/ql2xnvmeenable

    예상 출력은 1입니다.

TCP

NVMe/TCP 프로토콜은 자동 연결 작업을 지원하지 않습니다. 대신 NVMe/TCP를 수행하여 NVMe/TCP 하위 시스템과 네임스페이스를 검색할 수 있습니다. connect 또는 connect-all 수동으로 작업합니다.

단계

  1. 지원되는 NVMe/TCP LIF를 통해 개시자 포트가 검색 로그 페이지 데이터를 가져올 수 있는지 확인하세요.

    nvme discover -t tcp -w host-traddr -a traddr
    예제 보기 
    nvme discover -t tcp -w 192.168.2.31 -a 192.168.2.25

Discovery Log Number of Records 8, Generation counter 18
=====Discovery Log Entry 0======
trtype:  tcp
adrfam:  ipv4
subtype: unrecognized
treq:    not specified.
portid:  0
trsvcid: 8009
subnqn:  nqn.1992-08.com.netapp:sn.a1b2b785b9de11ee8e7fd039ea9e8ae9:discovery
traddr:  192.168.1.25
sectype: none
=====Discovery Log Entry 1======
trtype:  tcp
adrfam:  ipv4
subtype: unrecognized
treq:    not specified.
portid:  1
trsvcid: 8009
subnqn:  nqn.1992-08.com.netapp:sn.a1b2b785b9de11ee8e7fd039ea9e8ae9:discovery
traddr:  192.168.2.26
sectype: none

  2. 다른 NVMe/TCP 이니시에이터-타겟 LIF 조합이 검색 로그 페이지 데이터를 성공적으로 가져올 수 있는지 확인합니다.

    nvme discover -t tcp -w host-traddr -a traddr
    예제 보기 
    nvme  discover  -t  tcp  -w 192.168.2.31  -a 192.168.2.25
nvme  discover  -t  tcp  -w 192.168.1.31  -a 192.168.1.24
nvme  discover  -t  tcp  -w 192.168.2.31  -a 192.168.2.26
nvme  discover  -t  tcp  -w 192.168.1.31  -a 192.168.1.25

  3. 를 실행합니다 nvme connect-all 노드에 걸쳐 지원되는 모든 NVMe/TCP 이니시에이터-타겟 LIF에 대한 명령:

    nvme connect-all -t tcp -w host-traddr -a traddr
    예제 보기 
    nvme connect-all -t tcp -w 192.168.2.31 -a 192.168.2.25 -l 1800
nvme connect-all -t tcp -w 192.168.1.31 -a 192.168.1.24 -l 1800
nvme connect-all -t tcp -w 192.168.2.31 -a 192.168.2.26 -l 1800
nvme connect-all -t tcp -w 192.168.1.31 -a 192.168.1.25 -l 1800

4단계: 선택적으로 NVMe/FC에 대해 1MB I/O를 활성화합니다.

ONTAP Identify Controller 데이터에서 최대 데이터 전송 크기(MDTS)를 8로 보고합니다. 즉, 최대 I/O 요청 크기는 1MB까지 가능합니다. Broadcom NVMe/FC 호스트에 대해 1MB 크기의 I/O 요청을 발행하려면 다음을 늘려야 합니다. lpfc 의 가치 lpfc_sg_seg_cnt 매개변수를 기본값 64에서 256으로 변경합니다.

참고 이 단계는 Qlogic NVMe/FC 호스트에는 적용되지 않습니다.
단계

  1. `lpfc_sg_seg_cnt`매개변수를 256으로 설정합니다.

    cat /etc/modprobe.d/lpfc.conf

    다음 예와 비슷한 출력이 표시되어야 합니다.

    options lpfc lpfc_sg_seg_cnt=256

  2. `dracut -f`명령을 실행하고 호스트를 재부팅합니다.

  3. 의 값이 256인지 lpfc_sg_seg_cnt 확인합니다.

    cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt

5단계: NVMe-oF 검증

커널 내 NVMe 다중 경로 상태, ANA 상태 및 ONTAP 네임스페이스가 NVMe-oF 구성에 적합한지 확인합니다.

단계

  1. in-kernel NVMe multipath가 활성화되어 있는지 확인합니다.

    cat /sys/module/nvme_core/parameters/multipath

    다음과 같은 출력이 표시됩니다.

    Y

  2. 각 ONTAP 네임스페이스에 대한 적절한 NVMe-oF 설정(예: NetApp ONTAP 컨트롤러로 설정된 모델 및 라운드 로빈으로 설정된 로드 밸런싱 IPolicy가 호스트에 올바르게 반영되는지 확인합니다.

    1. 하위 시스템을 표시합니다.

      cat /sys/class/nvme-subsystem/nvme-subsys*/model

      다음과 같은 출력이 표시됩니다.

      NetApp ONTAP Controller
NetApp ONTAP Controller

    2. 정책을 표시합니다.

      cat /sys/class/nvme-subsystem/nvme-subsys*/iopolicy

      다음과 같은 출력이 표시됩니다.

    round-robin
round-robin

  3. 호스트에서 네임스페이스가 생성되고 올바르게 검색되는지 확인합니다.

    nvme list
    예제 보기 
    Node         SN                   Model
---------------------------------------------------------
/dev/nvme4n1 81Ix2BVuekWcAAAAAAAB	NetApp ONTAP Controller


Namespace Usage    Format             FW             Rev
-----------------------------------------------------------
1                 21.47 GB / 21.47 GB	4 KiB + 0 B   FFFFFFFF

  4. 각 경로의 컨트롤러 상태가 라이브이고 올바른 ANA 상태인지 확인합니다.

    NVMe/FC
    nvme list-subsys /dev/nvme0n1
    예제 보기 
    nvme-subsys0 - NQN=nqn.1992-08.com.netapp:sn.0cd9ee0dc0ec11ee8e7fd039ea9e8ae9:subsystem.nvme
\
 +- nvme1 fc traddr=nn-0x2005d039eaa7dfc8:pn-0x2086d039eaa7dfc8 host_traddr=nn-0x20000024ff752e6d:pn-0x21000024ff752e6d live non-optimized
 +- nvme2 fc traddr=nn-0x2005d039eaa7dfc8:pn-0x2016d039eaa7dfc8 host_traddr=nn-0x20000024ff752e6c:pn-0x21000024ff752e6c live optimized
 +- nvme3 fc traddr=nn-0x2005d039eaa7dfc8:pn-0x2081d039eaa7dfc8 host_traddr=nn-0x20000024ff752e6c:pn-0x21000024ff752e6c live non-optimized
 +- nvme4 fc traddr=nn-0x2005d039eaa7dfc8:pn-0x2087d039eaa7dfc8 host_traddr=nn-0x20000024ff752e6d:pn-0x21000024ff752e6d live optimized
    NVMe/TCP
    nvme list-subsys /dev/nvme0n1
    예제 보기 
    nvme-subsys0 - NQN=nqn.1992-08.com.netapp:sn.a1b2b785b9de11ee8e7fd039ea9e8ae9:subsystem.nvme_tcp_1
\
 +- nvme0 tcp traddr=192.168.2.26 trsvcid=4420 host_traddr=192.168.2.31 live non-optimized
 +- nvme1 tcp traddr=192.168.2.25 trsvcid=4420 host_traddr=192.168.2.31 live optimized
 +- nvme2 tcp traddr=192.168.1.25 trsvcid=4420 host_traddr=192.168.1.31 live non-optimized
 +- nvme3 tcp traddr=192.168.1.24 trsvcid=4420 host_traddr=192.168.1.31 live optimized

  5. NetApp 플러그인에 각 ONTAP 네임스페이스 장치에 대한 올바른 값이 표시되는지 확인합니다.

    열
    nvme netapp ontapdevices -o column
    예제 보기 
    Device        Vserver       Namespace Path
-----------------------------------------------------
/dev/nvme0n1  tcpiscsi_129  /vol/tcpnvme_1_0_0/tcpnvme_ns



NSID       UUID                                   Size
------------------------------------------------------------
1          05c2c351-5d7f-41d7-9bd8-1a56c	        21.47GB
    JSON을 참조하십시오
    nvme netapp ontapdevices -o json
    예제 보기 
    {
  "ONTAPdevices": [
    {
      "Device": "/dev/nvme0n1",
      "Vserver": "tcpiscsi_129",
      "Namespace Path”: /vol/tcpnvme_1_0_0/tcpnvme_ns ",
      "NSID": 1,
      "UUID": " 05c2c351-5d7f-41d7-9bd8-1a56c160c80b ",
      "Size2: "21.47GB",
      "LBA_Data_Size": 4096,
      "Namespace Size" : 5242880
    },
  ]
}

6단계: 알려진 문제를 검토합니다

알려진 문제는 다음과 같습니다.

NetApp 버그 ID 제목 설명

"1479047"

RHEL 8.10 NVMe-oF 호스트는 중복된 PDC(지속적 검색 컨트롤러)를 생성합니다.

NVMe-oF 호스트에서는 "nvme discover -p" 명령을 사용하여 PDC를 생성할 수 있습니다. 이 명령을 사용하면 개시자-대상 조합당 하나의 PDC만 생성되어야 합니다. 하지만 NVMe-oF 호스트에서 RHEL 8.10을 실행하는 경우 "nvme discover -p"를 실행할 때마다 중복된 PDC가 생성됩니다. 이로 인해 호스트와 대상 모두에서 불필요한 리소스 사용이 발생합니다.