Configurar RHEL 8.2 para NVMe-oF com armazenamento ONTAP
Os hosts Red Hat Enterprise Linux (RHEL) oferecem suporte aos protocolos NVMe sobre Fibre Channel (NVMe/FC) e NVMe sobre TCP (NVMe/TCP) com acesso assimétrico ao namespace (ANA). O ANA fornece funcionalidade de múltiplos caminhos equivalente ao acesso de unidade lógica assimétrica (ALUA) em ambientes iSCSI e FCP.
Aprenda a configurar hosts NVMe sobre Fabrics (NVMe-oF) para RHEL 8.2. Para obter mais informações sobre suporte e recursos, consulte"Visão geral do NVME-oF" .
NVMe-oF com RHEL 8.2 tem as seguintes limitações conhecidas:
-
A inicialização SAN usando o protocolo NVMe-oF não é suportada atualmente.
-
O multicaminho NVMe no kernel é desabilitado por padrão em hosts NVMe-oF no RHEL 8.2; você deve habilitá-lo manualmente.
Passo 1: Opcionalmente, ative a inicialização de SAN
Você pode configurar seu host para usar a inicialização SAN para simplificar a implantação e melhorar a escalabilidade. Use o"Ferramenta de Matriz de interoperabilidade" para verificar se o seu sistema operacional Linux, adaptador de barramento de host (HBA), firmware HBA, BIOS de inicialização HBA e versão ONTAP oferecem suporte à inicialização SAN.
-
Habilite a inicialização SAN no BIOS do servidor para as portas para as quais o namespace de inicialização SAN está mapeado.
Para obter informações sobre como ativar o BIOS HBA, consulte a documentação específica do fornecedor.
-
Reinicie o host e verifique se o sistema operacional está ativo e funcionando.
Etapa 2: verificar a versão do software e a configuração do NVMe
Verifique se o seu sistema atende aos requisitos de software e verifique as instalações do pacote NVMe e a configuração do host.
-
Instale o RHEL 8.2 no servidor. Após a conclusão da instalação, verifique se você está executando o kernel RHEL 8.2 necessário:
uname -r
Exemplo de versão do kernel RHEL:
4.18.0-193.el8.x86_64
-
Instale o pacote nvme-cli:
rpm -qa|grep nvme-cli
O exemplo a seguir mostra uma versão do pacote nvme-cli:
nvme-cli-1.9.5.el8.x86_64
-
Ativar multipath NVMe no kernel:
grubby –args=nvme_core.multipath=Y –update-kernel /boot/vmlinuz-4.18.0-193.el8.x86_64
-
No host RHEL 8.2, verifique a string NQN do host em
/etc/nvme/hostnqn
:cat /etc/nvme/hostnqn
O exemplo a seguir mostra uma string hostnqn:
nqn.2014-08.org.nvmexpress:uuid:9ed5b327-b9fc-4cf5-97b3-1b5d986345d1
-
No host RHEL 8.2, verifique a string hostnqn em
/etc/nvme/hostnqn
:vserver nvme subsystem host show -vserver vs_fcnvme_141
Mostrar exemplo
Vserver Subsystem Host NQN ----------- --------------- ----------- --------------- vs_fcnvme_141 nvme_141_1 nqn.2014-08.org.nvmexpress:uuid:9ed5b327-b9fc-4cf5-97b3-1b5d986345d1
Se as strings NQN do host não corresponderem, use o vserver modify
comando para atualizar a string NQN do host no subsistema de matriz ONTAP correspondente para corresponder à string NQN do host de/etc/nvme/hostnqn
no host. -
Reinicie o host.
-
Opcionalmente, atualize a
enable_foreign
configuração.Para executar tráfego NVMe e SCSI no mesmo host, a NetApp recomenda usar o multipath NVMe no kernel para namespaces ONTAP e o dm-multipath para LUNs ONTAP . Para evitar que o dm-multipath reivindique dispositivos de namespace ONTAP , exclua-os adicionando o
enable_foreign
configuração para o/etc/multipath.conf
arquivo:cat /etc/multipath.conf defaults { enable_foreign NONE }
-
Reinicie o daemon multipathd executando um
systemctl restart multipathd
.
Etapa 3: Configurar NVMe/FC para Broadcom/Emulex
Você pode configurar NVMe/FC para Broadcom/Emulex.
-
Verifique se você está usando o modelo de adaptador suportado:
-
Exibir os nomes dos modelos:
cat /sys/class/scsi_host/host*/modelname
Você deve ver a seguinte saída:
LPe32002-M2 LPe32002-M2
-
Exibir as descrições do modelo:
cat /sys/class/scsi_host/host*/modeldesc
Você deverá ver uma saída semelhante a:
Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter
-
-
Verifique se a saída esperada de
lpfc_enable_fc4_type
está definida como3
:cat /sys/module/lpfc/parameters/lpfc_enable_fc4_type
-
Verifique se as portas do iniciador estão ativas e em execução e podem ver os LIFs de destino:
cat /sys/class/fc_host/host*/port_name
Você deverá ver uma saída semelhante a:
0x100000109b1c1204 0x100000109b1c1205
-
Verifique se as portas do iniciador estão online:
cat /sys/class/fc_host/host*/port_state
Você deve ver a seguinte saída:
Online Online
-
Verifique se as portas do iniciador NVMe/FC estão ativadas e se as portas de destino estão visíveis:
cat /sys/class/scsi_host/host*/nvme_info
Mostrar exemplo
NVME Initiator Enabled XRI Dist lpfc0 Total 6144 IO 5894 ELS 250 NVME LPORT lpfc0 WWPN x100000109b1c1204 WWNN x200000109b1c1204 DID x011d00 ONLINE NVME RPORT WWPN x203800a098dfdd91 WWNN x203700a098dfdd91 DID x010c07 TARGET DISCSRVC ONLINE NVME RPORT WWPN x203900a098dfdd91 WWNN x203700a098dfdd91 DID x011507 TARGET DISCSRVC ONLINE NVME Statistics LS: Xmt 0000000f78 Cmpl 0000000f78 Abort 00000000 LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000 Total FCP Cmpl 000000002fe29bba Issue 000000002fe29bc4 OutIO 000000000000000a abort 00001bc7 noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000 FCP CMPL: xb 00001e15 Err 0000d906 NVME Initiator Enabled XRI Dist lpfc1 Total 6144 IO 5894 ELS 250 NVME LPORT lpfc1 WWPN x100000109b1c1205 WWNN x200000109b1c1205 DID x011900 ONLINE NVME RPORT WWPN x203d00a098dfdd91 WWNN x203700a098dfdd91 DID x010007 TARGET DISCSRVC ONLINE NVME RPORT WWPN x203a00a098dfdd91 WWNN x203700a098dfdd91 DID x012a07 TARGET DISCSRVC ONLINE NVME Statistics LS: Xmt 0000000fa8 Cmpl 0000000fa8 Abort 00000000 LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000 Total FCP Cmpl 000000002e14f170 Issue 000000002e14f17a OutIO 000000000000000a abort 000016bb noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000 FCP CMPL: xb 00001f50 Err 0000d9f8
Etapa 4: Opcionalmente, habilite 1 MB de E/S para NVMe/FC
O ONTAP relata um Tamanho Máximo de Transferência de Dados (MDTS) de 8 nos dados do Controlador de Identificação. Isso significa que o tamanho máximo da solicitação de E/S pode ser de até 1 MB. Para emitir solicitações de E/S de tamanho 1 MB para um host Broadcom NVMe/FC, você deve aumentar o lpfc
valor do lpfc_sg_seg_cnt
parâmetro para 256 do valor padrão de 64.
|
Essas etapas não se aplicam a hosts Qlogic NVMe/FC. |
-
Defina
lpfc_sg_seg_cnt
o parâmetro como 256:cat /etc/modprobe.d/lpfc.conf
Você deverá ver uma saída semelhante ao exemplo a seguir:
options lpfc lpfc_sg_seg_cnt=256
-
Execute o
dracut -f
comando e reinicie o host. -
Verifique se o valor para
lpfc_sg_seg_cnt
é 256:cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt
Etapa 5: Validar NVMe-oF
Verifique se o status multipath do NVMe no kernel, o status ANA e os namespaces do ONTAP estão corretos para a configuração do NVMe-of.
-
Verifique se o multipath NVMe no kernel está habilitado:
cat /sys/module/nvme_core/parameters/multipath
Você deve ver a seguinte saída:
Y
-
Verifique se as configurações de NVMe-of apropriadas (como o modelo definido como controlador NetApp ONTAP e o balanceamento de carga iopolicy definido como round-robin) para os respetivos namespaces ONTAP refletem corretamente no host:
-
Exibir os subsistemas:
cat /sys/class/nvme-subsystem/nvme-subsys*/model
Você deve ver a seguinte saída:
NetApp ONTAP Controller NetApp ONTAP Controller
-
Exibir a política:
cat /sys/class/nvme-subsystem/nvme-subsys*/iopolicy
Você deve ver a seguinte saída:
round-robin round-robin
-
-
Verifique se os namespaces são criados e descobertos corretamente no host:
nvme list
Mostrar exemplo
Node SN Model --------------------------------------------------------- /dev/nvme4n1 81Ix2BVuekWcAAAAAAAB NetApp ONTAP Controller Namespace Usage Format FW Rev ----------------------------------------------------------- 1 21.47 GB / 21.47 GB 4 KiB + 0 B FFFFFFFF
-
Verifique se o estado do controlador de cada caminho está ativo e tem o status ANA correto:
nvme list-subsys /dev/nvme0n1
Mostrar exemplo
Nvme-subsysf0 – NQN=nqn.1992-08.com.netapp:sn.341541339b9511e8a9b500a098c80f09:subsystem.rhel_141_nvme_ss_10_0 \ +- nvme0 fc traddr=nn-0x202c00a098c80f09:pn-0x202d00a098c80f09 host_traddr=nn-0x20000090fae0ec61:pn-0x10000090fae0ec61 live optimized +- nvme1 fc traddr=nn-0x207300a098dfdd91:pn-0x207600a098dfdd91 host_traddr=nn-0x200000109b1c1204:pn-0x100000109b1c1204 live inaccessible +- nvme2 fc traddr=nn-0x207300a098dfdd91:pn-0x207500a098dfdd91 host_traddr=nn-0x200000109b1c1205:pn-0x100000109b1c1205 live optimized +- nvme3 fc traddr=nn-0x207300a098dfdd91:pn-0x207700a098dfdd91 host traddr=nn-0x200000109b1c1205:pn-0x100000109b1c1205 live inaccessible
-
Verifique se o plug-in NetApp exibe os valores corretos para cada dispositivo de namespace ONTAP:
Colunanvme netapp ontapdevices -o column
Mostrar exemplo
Device Vserver Namespace Path NSID UUID Size ------- -------- ------------------------- ------ ----- ----- /dev/nvme0n1 vs_nvme_10 /vol/rhel_141_vol_10_0/rhel_141_ns_10_0 1 55baf453-f629-4a18-9364-b6aee3f50dad 53.69GB
JSONnvme netapp ontapdevices -o json
Mostrar exemplo
{ "ONTAPdevices" : [ { Device" : "/dev/nvme0n1", "Vserver" : "vs_nvme_10", "Namespace_Path" : "/vol/rhel_141_vol_10_0/rhel_141_ns_10_0", "NSID" : 1, "UUID" : "55baf453-f629-4a18-9364-b6aee3f50dad", "Size" : "53.69GB", "LBA_Data_Size" : 4096, "Namespace_Size" : 13107200 } ]
Passo 6: Revise os problemas conhecidos
Não há problemas conhecidos.