Configurar o Ubuntu 22.04 para NVMe-oF com storage ONTAP
O NVMe sobre Fabrics (NVMe-of), incluindo NVMe sobre Fibre Channel (NVMe/FC) e outros transportes, é compatível com o Ubuntu 22,04.04, com acesso a namespace assimétrico (ANA). Em ambientes NVMe-of, o ANA equivale a multipathing ALUA em ambientes iSCSI e FC e é implementado com multipath NVMe no kernel.
Aprenda como configurar hosts NVMe over Fabrics (NVMe-oF) para Ubuntu 22.04. Para obter mais informações sobre suporte e recursos, consulte "Suporte e recursos do Ubuntu ONTAP".
NVMe-oF com Ubuntu 22.04 apresenta as seguintes limitações conhecidas:
-
A inicialização SAN usando o protocolo NVMe-oF atualmente não é suportada para Ubuntu 22.04 com ONTAP.
Para obter detalhes adicionais sobre as configurações suportadas, consulte o "Ferramenta de Matriz de interoperabilidade".
Passo 1: Instale o Ubuntu e o software NVMe e verifique sua configuração
Para configurar seu host para NVMe-oF, você precisa instalar os pacotes de software do host e do NVMe, habilitar o multipathing e verificar a configuração NQN do seu host.
-
Instale o Ubuntu 22,04 no servidor. Depois que a instalação estiver concluída, verifique se você está executando o kernel Ubuntu 22,04 especificado:
# uname -rExemplo de versão do kernel do Ubuntu:
5.15.0-101-generic
-
Instale o
nvme-clipacote:# apt list | grep nvmeO exemplo a seguir mostra um
nvme-cliversão do pacote:nvme-cli/jammy-updates,now 1.16-3ubuntu0.1 amd64
-
No host Ubuntu 22,04, verifique a string hostnqn em
/etc/nvme/hostnqn:# cat /etc/nvme/hostnqnO exemplo a seguir mostra um
hostnqnversão:nqn.2014-08.org.nvmexpress:uuid:063axxxx-438a-xxxx-b9b4-95axxxx6d041
-
No sistema ONTAP, verifique se a
hostnqnstring de/etc/nvme/hostnqncorresponde àhostnqnstring do subsistema correspondente no sistema de storage ONTAP:::> vserver nvme subsystem host show -vserver vs_106_fc_nvmeMostrar exemplo
Vserver Subsystem Host NQN ----------- --------------- ---------------------------------------------------------- vs_106_fc_nvme ub_106 nqn.2014-08.org.nvmexpress:uuid:c047xxxx-e91e-xxxx-9995-ba4xxxx14631
Se o hostnqnas strings não correspondem, use ovserver modifycomando para atualizar ohostnqnstring no seu subsistema de sistema de armazenamento ONTAP correspondente para corresponder aohostnqncorda de/etc/nvme/hostnqnno host.
Etapa 2: Configurar NVMe/FC e NVMe/TCP
Configurar NVMe/FC para adaptadores Broadcom/Emulex ou Marvell/Qlogic, ou configurar NVMe/TCP usando descoberta manual e operações de conexão.
Configurar o NVMe/FC para um adaptador Broadcom/Emulex.
-
Verifique se você está usando o modelo de adaptador suportado:
-
Exibir os nomes dos modelos:
cat /sys/class/scsi_host/host*/modelnameVocê deve ver a seguinte saída:
LPe36002-M64 LPe36002-M64
-
Exibir as descrições do modelo:
cat /sys/class/scsi_host/host*/modeldescVocê deverá ver uma saída semelhante ao seguinte exemplo:
Emulex LPe36002-M64 2-Port 64Gb Fibre Channel Adapter Emulex LPe36002-M64 2-Port 64Gb Fibre Channel Adapter
-
-
Verifique se você está usando o firmware Broadcom recomendado e o driver da
lpfccaixa de entrada.-
Exibir a versão do firmware:
cat /sys/class/scsi_host/host*/fwrevO comando retorna as versões do firmware:
14.2.673.40, sli-4:6:d 14.2.673.40, sli-4:6:d
-
Exibir a versão do driver da caixa de entrada:
cat /sys/module/lpfc/versionO exemplo a seguir mostra uma versão do driver:
0: 14.0.0.4
+ Para obter a lista atual de versões de firmware e drivers de adaptador suportados, consulte "Ferramenta de Matriz de interoperabilidade".
-
-
Verifique se
lpfc_enable_fc4_typeestá definido como3:cat /sys/module/lpfc/parameters/lpfc_enable_fc4_type -
Verifique se você pode exibir suas portas do iniciador:
cat /sys/class/fc_host/host*/port_nameVocê deverá ver uma saída semelhante a:
0x100000109bf0447c 0x100000109bf0447b
-
Verifique se as portas do iniciador estão online:
cat /sys/class/fc_host/host*/port_stateVocê deve ver a seguinte saída:
Online Online
-
Verifique se as portas do iniciador NVMe/FC estão ativadas e se as portas de destino estão visíveis:
cat /sys/class/scsi_host/host*/nvme_infoMostrar exemplo de saída
NVME Initiator Enabled XRI Dist lpfc1 Total 6144 IO 5894 ELS 250 NVME LPORT lpfc1 WWPN x100000109bf0447c WWNN x200000109bf0447c DID x022300 ONLINE NVME RPORT WWPN x200cd039eaa8138b WWNN x200ad039eaa8138b DID x021509 TARGET DISCSRVC ONLINE NVME RPORT WWPN x2010d039eaa8138b WWNN x200ad039eaa8138b DID x021108 TARGET DISCSRVC ONLINE NVME Statistics LS: Xmt 000000000e Cmpl 000000000e Abort 00000000 LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000 Total FCP Cmpl 0000000000005238 Issue 000000000000523a OutIO 0000000000000002 abort 00000000 noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000 FCP CMPL: xb 00000000 Err 00000000 NVME Initiator Enabled XRI Dist lpfc0 Total 6144 IO 5894 ELS 250 NVME LPORT lpfc0 WWPN x100000109bf0447b WWNN x200000109bf0447b DID x022600 ONLINE NVME RPORT WWPN x200bd039eaa8138b WWNN x200ad039eaa8138b DID x021409 TARGET DISCSRVC ONLINE NVME RPORT WWPN x200fd039eaa8138b WWNN x200ad039eaa8138b DID x021008 TARGET DISCSRVC ONLINE NVME Statistics LS: Xmt 000000000e Cmpl 000000000e Abort 00000000 LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000 Total FCP Cmpl 000000000000523c Issue 000000000000523e OutIO 0000000000000002 abort 00000000 noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000 FCP CMPL: xb 00000000 Err 00000000
O driver nativo da caixa de entrada qla2xxx incluído no kernel do Ubuntu 22,04 GA tem as correções upstream mais recentes. Essas correções são essenciais para o suporte ao ONTAP.
Configure o NVMe/FC para um adaptador Marvell/QLogic.
-
Verifique se você está executando o driver de adaptador e as versões de firmware compatíveis:
# cat /sys/class/fc_host/host*/symbolic_nameO exemplo a seguir mostra as versões do driver e do firmware:
QLE2872 FW: v9.14.02 DVR: v10.02.06.200-k QLE2872 FW: v9.14.02 DVR: v10.02.06.200-k
-
Verifique se
ql2xnvmeenableestá definido. Isso permite que o adaptador Marvell funcione como um iniciador NVMe/FC:cat /sys/module/qla2xxx/parameters/ql2xnvmeenableA saída esperada é 1.
O NVMe/TCP não possui funcionalidade de conexão automática. Em vez disso, você pode descobrir os subsistemas e namespaces do NVMe/TCP executando as operações NVMe/TCP connect ou connect-all manualmente.
Se um caminho for interrompido e não for restabelecido dentro do período de tempo limite padrão de 10 minutos, NVMe/TCP não poderá se reconectar automaticamente. Para evitar um tempo limite, defina o período de novas tentativas para eventos de failover para pelo menos 30 minutos.
-
Verifique se a porta iniciadora consegue obter os dados da página de log de descoberta através das LIFs NVMe/TCP suportadas:
nvme discover -t tcp -w host-traddr -a traddrMostrar exemplo de saída
#nvme discover -t tcp -w 10.10.11.47-a 10.10.10.122 Discovery Log Number of Records 8, Generation counter 10 =====Discovery Log Entry 0====== trtype: tcp adrfam: ipv4 subtype: current discovery subsystem treq: not specified portid: 0 trsvcid: 8009 subnqn: nqn.1992-08.com.netapp:sn.bbfb4ee8dfb611edbd07d039ea165590:discovery traddr: 10.10.10.122 eflags: explicit discovery connections, duplicate discovery information sectype: none =====Discovery Log Entry 1====== trtype: tcp adrfam: ipv4 subtype: current discovery subsystem treq: not specified portid: 1 trsvcid: 8009 subnqn: nqn.1992 08.com.netapp:sn.bbfb4ee8dfb611edbd07d039ea165590:discovery traddr: 10.10.10.124 eflags: explicit discovery connections, duplicate discovery information sectype: none =====Discovery Log Entry 2====== trtype: tcp
-
Verifique se as outras combinações de LIF entre iniciador e destino do NVMe/TCP conseguem obter com êxito os dados da página de log de descoberta:
nvme discover -t tcp -w host-traddr -a traddrMostrar exemplo de saída
#nvme discover -t tcp -w 10.10.10.47 -a 10.10.10.122 #nvme discover -t tcp -w 10.10.10.47 -a 10.10.10.124 #nvme discover -t tcp -w 10.10.11.47 -a 10.10.11.122 #nvme discover -t tcp -w 10.10.11.47 -a 10.10.11.
-
Execute o comando nvme connect-all em todas as LIFs de destino do iniciador NVMe/TCP suportadas nos nós e defina o período de tempo limite de perda do controlador por pelo menos 30 minutos ou 1800 segundos:
nvme connect-all -t tcp -w host-traddr -a traddr -l 1800Mostrar exemplo de saída
#nvme connect-all -t tcp -w 10.10.10.47 -a 10.10.10.122 -l 1800 #nvme connect-all -t tcp -w 10.10.10.47 -a 10.10.10.124 -l 1800 #nvme connect-all -t tcp -w 10.10.11.47 -a 10.10.11.122 -l 1800 #nvme connect-all -t tcp -w 10.10.11.47 -a 10.10.11.124 -l 1800
Etapa 3: Opcionalmente, habilite a E/S de 1 MB para NVMe/FC.
O ONTAP relata um Tamanho Máximo de Transferência de Dados (MDTS) de 8 nos dados do Controlador de Identificação. Isso significa que o tamanho máximo da solicitação de E/S pode ser de até 1 MB. Para emitir solicitações de E/S de tamanho 1 MB para um host Broadcom NVMe/FC, você deve aumentar o lpfc valor do lpfc_sg_seg_cnt parâmetro para 256 do valor padrão de 64.
|
|
Essas etapas não se aplicam a hosts Qlogic NVMe/FC. |
-
Defina
lpfc_sg_seg_cnto parâmetro como 256:cat /etc/modprobe.d/lpfc.confVocê deverá ver uma saída semelhante ao exemplo a seguir:
options lpfc lpfc_sg_seg_cnt=256
-
Execute o
dracut -fcomando e reinicie o host. -
Verifique se o valor para
lpfc_sg_seg_cnté 256:cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt
Etapa 4: verificar a configuração de multipath
Verifique se o status multipath do NVMe no kernel, o status ANA e os namespaces do ONTAP estão corretos para a configuração do NVMe-of.
-
Verifique se o multipath NVMe no kernel está habilitado:
# cat /sys/module/nvme_core/parameters/multipathA saída esperada é "Y".
-
Verifique se as configurações de NVMe-of apropriadas (como o modelo definido como controlador NetApp ONTAP e o balanceamento de carga iopolicy definido como round-robin) para os respetivos namespaces ONTAP refletem corretamente no host:
# cat /sys/class/nvme-subsystem/nvme-subsys*/modelVocê deve ver a seguinte saída:
NetApp ONTAP Controller NetApp ONTAP Controller
-
Exibir a política:
# cat /sys/class/nvme-subsystem/nvme-subsys*/iopolicyVocê deve ver a seguinte saída:
round-robin round-robin
-
-
Verifique se os namespaces são criados e descobertos corretamente no host:
# nvme listMostrar exemplo de saída
Node SN Model --------------------------------------------------------- /dev/nvme0n1 81CZ5BQuUNfGAAAAAAAB NetApp ONTAP Controller Namespace Usage Format FW Rev ----------------------------------------------------------- 1 21.47 GB / 21.47 GB 4 KiB + 0 B FFFFFFFF
-
Verifique se o estado do controlador de cada caminho está ativo e tem o status ANA correto:
NVMe/FC# nvme list-subsys /dev/nvme0n1Mostrar exemplo de saída
nvme-subsys4 - NQN=nqn.1992-08.com.netapp:sn.8763d311b2ac11ed950ed039ea951c46:subsystem. ub_106 \ +- nvme1 fc traddr=nn-0x20a6d039ea954d17:pn-0x20a7d039ea954d17,host_traddr=nn-0x200000109b1b95ef:pn-0x100000109b1b95ef live optimized +- nvme2 fc traddr=nn-0x20a6d039ea954d17:pn-0x20a8d039ea954d17,host_traddr=nn-0x200000109b1b95f0:pn-0x100000109b1b95f0 live optimized +- nvme3 fc traddr=nn-0x20a6d039ea954d17:pn-0x20aad039ea954d17,host_traddr=nn-0x200000109b1b95f0:pn-0x100000109b1b95f0 live non-optimized +- nvme5 fc traddr=nn-0x20a6d039ea954d17:pn-0x20a9d039ea954d17,host_traddr=nn-0x200000109b1b95ef:pn-0x100000109b1b95ef live non-optimized
NVMe/TCP# nvme list-subsys /dev/nvme1n1Mostrar exemplo de saída
nvme-subsys1 - NQN=nqn.1992- 08.com.netapp:sn. bbfb4ee8dfb611edbd07d039ea165590:subsystem.rhel_tcp_95 +- nvme1 tcp traddr=10.10.10.122,trsvcid=4420,host_traddr=10.10.10.47,src_addr=10.10.10.47 live +- nvme2 tcp traddr=10.10.10.124,trsvcid=4420,host_traddr=10.10.10.47,src_addr=10.10.10.47 live +- nvme3 tcp traddr=10.10.11.122,trsvcid=4420,host_traddr=10.10.11.47,src_addr=10.10.11.47 live +- nvme4 tcp traddr=10.10.11.124,trsvcid=4420,host_traddr=10.10.11.47,src_addr=10.10.11.47 live
-
Verifique se o plug-in NetApp exibe os valores corretos para cada dispositivo de namespace ONTAP:
Coluna# nvme netapp ontapdevices -o columnMostrar exemplo de saída
Device Vserver Namespace Path ----------------------- ------------------------------ /dev/nvme0n1 co_iscsi_tcp_ubuntu /vol/vol1/ns1 NSID UUID Size ------------------------------------------------------------ 1 79c2c569-b7fa-42d5-b870-d9d6d7e5fa84 21.47GB
JSON# nvme netapp ontapdevices -o jsonMostrar exemplo de saída
{ "ONTAPdevices" : [ { "Device" : "/dev/nvme0n1", "Vserver" : "co_iscsi_tcp_ubuntu", "Namespace_Path" : "/vol/nvmevol1/ns1", "NSID" : 1, "UUID" : "79c2c569-b7fa-42d5-b870-d9d6d7e5fa84", "Size" : "21.47GB", "LBA_Data_Size" : 4096, "Namespace_Size" : 5242880 }, ] }
Etapa 5: Revise os problemas conhecidos
A configuração de host NVMe-of para Ubuntu 22,04 com a versão ONTAP tem o seguinte problema conhecido:
| ID de erro do NetApp | Título | Descrição |
|---|---|---|
CONTAPEXT-2037 |
Os hosts NVMe-of do Ubuntu 22,04 criam controladoras de descoberta persistente duplicadas |
Em hosts NVMe-of, você pode usar o comando "nvme Discover -p" para criar PDCs (Controladores de descoberta persistentes). Este comando deve criar apenas um PDC para cada combinação iniciador-alvo. No entanto, se você estiver executando o Ubuntu 22,04 em um host NVMe-of, um PDC duplicado é criado cada vez que "nvme Discover -p" é executado. Isso leva ao uso desnecessário de recursos no host e no destino. |