Configuração de host NVMe/FC para RHEL 8,3 com ONTAP
O NVMe/FC é compatível com o ONTAP 9.6 ou posterior para o Red Hat Enterprise Linux (RHEL) 8,3. O host RHEL 8,3 executa o tráfego NVMe e SCSI através das mesmas portas do adaptador de iniciador FC. Consulte o "Hardware Universe" para obter uma lista de controladores e adaptadores FC compatíveis.
Consulte a "Ferramenta de Matriz de interoperabilidade do NetApp" para obter a lista mais atual de configurações suportadas.
Caraterísticas
Não há novos recursos nesta versão.
Limitações conhecidas
-
Para RHEL 8,3, o multipath NVMe no kernel é desativado por padrão. Você pode ativá-lo manualmente.
-
A inicialização DE SAN usando o protocolo NVMe-of não é atualmente suportada.
Habilite o NVMe/FC no RHEL 8,3
Use o procedimento a seguir para ativar o NVMe/FC.
-
Instale o Red Hat Enterprise Linux 8,3 GA no servidor.
-
Se você estiver atualizando do RHEL 8,2 para RHEL 8,3 usando o
yum update/upgrade
comando, seus/etc/nvme/host*
arquivos podem ser perdidos. Para evitar a perda de arquivos, use o seguinte procedimento:Mostrar exemplo de saída
-
Faça backup de seus
/etc/nvme/host*
arquivos. -
Se você tiver uma regra editada manualmente
udev
, remova-a:/lib/udev/rules.d/71-nvme-iopolicy-netapp-ONTAP.rules
-
Execute a atualização.
-
Depois que a atualização estiver concluída, execute o seguinte comando:
yum remove nvme-cli
-
Restaure os arquivos do host em
/etc/nvme/
.yum install nvmecli
-
Copie o conteúdo original
/etc/nvme/host*
do backup para os arquivos de host reais em/etc/nvme/
.
-
-
Depois que a instalação estiver concluída, verifique se você está executando o kernel RHEL especificado:
# uname -r 4.18.0-240.el8.x86_64
Consulte a "Ferramenta de Matriz de interoperabilidade do NetApp" para obter a lista mais atual de versões suportadas.
-
Instale o pacote nvme-cli:
# rpm -qa|grep nvme-cli nvme-cli-1.12-2.el8.x86_64
-
Habilite o multipath NVMe no kernel.
# grubby --args=nvme_core.multipath=Y --update-kernel /boot/vmlinuz-4.18.0-240.el8.x86_64
-
No host RHEL 8,3, verifique a string NQN do host em
/etc/nvme/hostnqn
verificar se ela corresponde à string NQN do host para o subsistema correspondente no array ONTAP:# cat /etc/nvme/hostnqn
Exemplo de saída:
# cat /etc/nvme/hostnqn nqn.2014-08.org.nvmexpress:uuid:9ed5b327-b9fc-4cf5-97b3-1b5d986345d1
-
Verifique se a
hostnqn
string corresponde à string hostnqn para o subsistema correspondente na matriz ONTAP:vserver nvme subsystem host show -vserver vs_fcnvme_141
Exemplo de saída
::> vserver nvme subsystem host show -vserver vs_fcnvme_141 Vserver Subsystem Host NQN ----------- --------------- ----------- --------------- vs_fcnvme_141 nvme_141_1 nqn.2014-08.org.nvmexpress:uuid:9ed5b327-b9fc-4cf5-97b3-1b5d986345d1
Se as strings NQN do host não corresponderem, use o vserver modify
comando para atualizar a string NQN do host no subsistema de array ONTAP correspondente para corresponder à string NQN do/etc/nvme/hostnqn
host. -
Reinicie o host.
-
Opcionalmente, atualize a
enable_foreign
configuração.Se você pretende executar o tráfego NVMe e SCSI no mesmo host coexistente RHEL 8,3, a NetApp recomenda que você use multipath NVMe no kernel para namespaces ONTAP e dm-multipath para LUNs ONTAP, respetivamente. Você também deve colocar em lista negra os namespaces do ONTAP no dm-multipath para impedir que o dm-multipath reivindique esses dispositivos de namespace. Você pode fazer isso adicionando a
enable_foreign
configuração ao /etc/multipath.conf, como mostrado abaixo:# cat /etc/multipath.conf defaults { enable_foreign NONE }
Reinicie o daemon multipathd executando um
systemctl restart multipathd
.
Validar o NVMe/FC
Use o procedimento a seguir para validar o NVMe/FC.
-
Verifique as seguintes configurações de NVMe/FC:
# cat /sys/module/nvme_core/parameters/multipath Y
# cat /sys/class/nvme-subsystem/nvme-subsys*/model NetApp ONTAP Controller NetApp ONTAP Controller
# cat /sys/class/nvme-subsystem/nvme-subsys*/iopolicy round-robin round-robin
-
Verifique se os namespaces são criados e descobertos corretamente no host.
/dev/nvme0n1 814vWBNRwf9HAAAAAAAB NetApp ONTAP Controller 1 85.90 GB / 85.90 GB 4 KiB + 0 B FFFFFFFF /dev/nvme0n2 814vWBNRwf9HAAAAAAAB NetApp ONTAP Controller 2 85.90 GB / 85.90 GB 4 KiB + 0 B FFFFFFFF /dev/nvme0n3 814vWBNRwf9HAAAAAAAB NetApp ONTAP Controller 3 85.90 GB / 85.90 GB 4 KiB + 0 B FFFFFFFF
-
Verifique o status dos caminhos ANA.
# nvme list-subsys /dev/nvme0n1 nvme-subsys0 - NQN=nqn.1992-08.com.netapp:sn.5f5f2c4aa73b11e9967e00a098df41bd:subsystem.nvme_141_1 \ +- nvme0 fc traddr=nn-0x203700a098dfdd91:pn-0x203800a098dfdd91 host_traddr=nn-0x200000109b1c1204:pn-0x100000109b1c1204 live inaccessible +- nvme1 fc traddr=nn-0x203700a098dfdd91:pn-0x203900a098dfdd91 host_traddr=nn-0x200000109b1c1204:pn-0x100000109b1c1204 live inaccessible +- nvme2 fc traddr=nn-0x203700a098dfdd91:pn-0x203a00a098dfdd91 host_traddr=nn-0x200000109b1c1205:pn-0x100000109b1c1205 live optimized +- nvme3 fc traddr=nn-0x203700a098dfdd91:pn-0x203d00a098dfdd91 host_traddr=nn-0x200000109b1c1205:pn-0x100000109b1c1205 live optimized
-
Verifique o plug-in NetApp para dispositivos ONTAP:
Coluna# nvme netapp ontapdevices -o column
Exemplo de saída
Device Vserver Namespace Path NSID UUID Size --------------- --------------- --------------------------------------------- -------- -------------------------------------- --------- /dev/nvme0n1 vs_fcnvme_141 /vol/fcnvme_141_vol_1_1_0/fcnvme_141_ns 1 72b887b1-5fb6-47b8-be0b-33326e2542e2 85.90GB /dev/nvme0n2 vs_fcnvme_141 /vol/fcnvme_141_vol_1_0_0/fcnvme_141_ns 2 04bf9f6e-9031-40ea-99c7-a1a61b2d7d08 85.90GB /dev/nvme0n3 vs_fcnvme_141 /vol/fcnvme_141_vol_1_1_1/fcnvme_141_ns 3 264823b1-8e03-4155-80dd-e904237014a4 85.90GB
JSON# nvme netapp ontapdevices -o json
Exemplo de saída
{ "ONTAPdevices" : [ { "Device" : "/dev/nvme0n1", "Vserver" : "vs_fcnvme_141", "Namespace_Path" : "/vol/fcnvme_141_vol_1_1_0/fcnvme_141_ns", "NSID" : 1, "UUID" : "72b887b1-5fb6-47b8-be0b-33326e2542e2", "Size" : "85.90GB", "LBA_Data_Size" : 4096, "Namespace_Size" : 20971520 }, { "Device" : "/dev/nvme0n2", "Vserver" : "vs_fcnvme_141", "Namespace_Path" : "/vol/fcnvme_141_vol_1_0_0/fcnvme_141_ns", "NSID" : 2, "UUID" : "04bf9f6e-9031-40ea-99c7-a1a61b2d7d08", "Size" : "85.90GB", "LBA_Data_Size" : 4096, "Namespace_Size" : 20971520 }, { "Device" : "/dev/nvme0n3", "Vserver" : "vs_fcnvme_141", "Namespace_Path" : "/vol/fcnvme_141_vol_1_1_1/fcnvme_141_ns", "NSID" : 3, "UUID" : "264823b1-8e03-4155-80dd-e904237014a4", "Size" : "85.90GB", "LBA_Data_Size" : 4096, "Namespace_Size" : 20971520 }, ]
Configurar o adaptador Broadcom FC para NVMe/FC
Você pode usar o seguinte procedimento para configurar um adaptador Broadcom FC.
Para obter a lista mais atual de adaptadores suportados, consulte "Ferramenta de Matriz de interoperabilidade do NetApp".
-
Verifique se você está usando o adaptador suportado.
# cat /sys/class/scsi_host/host*/modelname LPe32002-M2 LPe32002-M2
# cat /sys/class/scsi_host/host*/modeldesc Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter
-
Verifique se
lpfc_enable_fc4_type
está definido como "3".# cat /sys/module/lpfc/parameters/lpfc_enable_fc4_type 3
-
Verifique se as portas do iniciador estão em funcionamento e podem ver os LIFs de destino.
# cat /sys/class/fc_host/host*/port_name 0x100000109b1c1204 0x100000109b1c1205
# cat /sys/class/fc_host/host*/port_state Online Online
# cat /sys/class/scsi_host/host*/nvme_info NVME Initiator Enabled XRI Dist lpfc0 Total 6144 IO 5894 ELS 250 NVME LPORT lpfc0 WWPN x100000109b1c1204 WWNN x200000109b1c1204 DID x011d00 ONLINE NVME RPORT WWPN x203800a098dfdd91 WWNN x203700a098dfdd91 DID x010c07 TARGET DISCSRVC ONLINE NVME RPORT WWPN x203900a098dfdd91 WWNN x203700a098dfdd91 DID x011507 TARGET DISCSRVC ONLINE NVME Statistics LS: Xmt 0000000f78 Cmpl 0000000f78 Abort 00000000 LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000 Total FCP Cmpl 000000002fe29bba Issue 000000002fe29bc4 OutIO 000000000000000a abort 00001bc7 noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000 FCP CMPL: xb 00001e15 Err 0000d906 NVME Initiator Enabled XRI Dist lpfc1 Total 6144 IO 5894 ELS 250 NVME LPORT lpfc1 WWPN x100000109b1c1205 WWNN x200000109b1c1205 DID x011900 ONLINE NVME RPORT WWPN x203d00a098dfdd91 WWNN x203700a098dfdd91 DID x010007 TARGET DISCSRVC ONLINE NVME RPORT WWPN x203a00a098dfdd91 WWNN x203700a098dfdd91 DID x012a07 TARGET DISCSRVC ONLINE NVME Statistics LS: Xmt 0000000fa8 Cmpl 0000000fa8 Abort 00000000 LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000 Total FCP Cmpl 000000002e14f170 Issue 000000002e14f17a OutIO 000000000000000a abort 000016bb noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000 FCP CMPL: xb 00001f50 Err 0000d9f8
-
Ative o tamanho de e/S de 1 MB _ (opcional)_.
O
lpfc_sg_seg_cnt
parâmetro precisa ser definido como 256 para que o driver lpfc emita solicitações de e/S de até 1 MB de tamanho.# cat /etc/modprobe.d/lpfc.conf options lpfc lpfc_sg_seg_cnt=256
-
Execute o
dracut -f
comando e reinicie o host. -
Depois que o host inicializar, verifique se lpfc_sg_seg_cnt está definido como 256.
# cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt 256
-
Verifique se você está usando o firmware Broadcom lpfc recomendado, bem como o driver da caixa de entrada:
# cat /sys/class/scsi_host/host*/fwrev 12.8.340.8, sli-4:2:c 12.8.340.8, sli-4:2:c
# cat /sys/module/lpfc/version 0:12.8.0.1