Configure o Oracle Linux 9.x com NVMe-oF para armazenamento ONTAP.
Os hosts Oracle Linux suportam os protocolos NVMe sobre Fibre Channel (NVMe/FC) e NVMe sobre TCP (NVMe/TCP) com Acesso Assimétrico ao Espaço de Nomes (ANA). O ANA fornece funcionalidade de múltiplos caminhos equivalente ao acesso de unidade lógica assimétrica (ALUA) em ambientes iSCSI e FCP.
Aprenda como configurar hosts NVMe over Fabrics (NVMe-oF) para Oracle Linux 9.x. Para obter mais informações sobre suporte e funcionalidades, consulte "Suporte e recursos do Oracle Linux ONTAP".
O NVMe-oF com Oracle Linux 9.x apresenta a seguinte limitação conhecida:
-
O
nvme disconnect-allO comando desconecta os sistemas de arquivos raiz e de dados, o que pode levar à instabilidade do sistema. Não execute este comando em sistemas que inicializam a partir de SAN através de namespaces NVMe-TCP ou NVMe-FC.
Passo 1: Opcionalmente, ative a inicialização de SAN
Você pode configurar seu host para usar a inicialização SAN para simplificar a implantação e melhorar a escalabilidade. Use o"Ferramenta de Matriz de interoperabilidade" para verificar se o seu sistema operacional Linux, adaptador de barramento de host (HBA), firmware HBA, BIOS de inicialização HBA e versão ONTAP oferecem suporte à inicialização SAN.
-
Habilite a inicialização SAN no BIOS do servidor para as portas para as quais o namespace de inicialização SAN está mapeado.
Para obter informações sobre como ativar o BIOS HBA, consulte a documentação específica do fornecedor.
-
Reinicie o host e verifique se o sistema operacional está ativo e funcionando.
Etapa 2: Instale o software Oracle Linux e NVMe e verifique sua configuração.
Utilize o procedimento a seguir para validar as versões mínimas de software suportadas pelo Oracle Linux 9.x.
-
Instale o Oracle Linux 9.x no servidor. Após a conclusão da instalação, verifique se você está executando o kernel Oracle Linux 9.x especificado.
uname -rExemplo de versão do kernel do Oracle Linux:
6.12.0-105.51.5.el9uek.x86_64
-
Instale o
nvme-clipacote:rpm -qa|grep nvme-cliO exemplo a seguir mostra um
nvme-cliversão do pacote:nvme-cli-2.13-1.el9.x86_64
-
Instale o
libnvmepacote:rpm -qa|grep libnvmeO exemplo a seguir mostra um
libnvmeversão do pacote:libnvme-1.13-1.el9.x86_64
-
No host Oracle Linux 9.x, verifique o
hostnqncorda em/etc/nvme/hostnqn:cat /etc/nvme/hostnqnO exemplo a seguir mostra um
hostnqnversão:nqn.2014-08.org.nvmexpress:uuid:8397cecc-30f0-11e8-850f-7ed30aef0cc7
-
No sistema ONTAP , verifique se o
hostnqnA string corresponde àhostnqnstring para o subsistema correspondente no sistema de armazenamento ONTAP :vserver nvme subsystem host show -vserver vs_coexistence_emulexMostrar exemplo
Vserver Subsystem Priority Host NQN ------- --------- -------- -------------------------------------------------------------------- vs_coexistence_emulex Nvme1 regular nqn.2014-08.org.nvmexpress:uuid:8397cecc-30f0-11e8-850f-7ed30aef0cc7 Nvme2 regular nqn.2014-08.org.nvmexpress:uuid:8397cecc-30f0-11e8-850f-7ed30aef0cc7Se as hostnqnstrings não corresponderem, você pode usar ovserver modifycomando para atualizar ahostnqncadeia de carateres no subsistema de matriz ONTAP correspondente para corresponder àhostnqncadeia de carateres/etc/nvme/hostnqndo host.
Etapa 3: Configurar NVMe/FC e NVMe/TCP
Configure NVMe/FC com adaptadores Broadcom/Emulex ou Marvell/QLogic, ou configure NVMe/TCP usando operações manuais de descoberta e conexão.
Configurar o NVMe/FC para um adaptador Broadcom/Emulex.
-
Verifique se você está usando o modelo de adaptador suportado:
-
Exibir os nomes dos modelos:
cat /sys/class/scsi_host/host*/modelnameVocê deve ver a seguinte saída:
LPe36002-M64 LPe36002-M64
-
Exibir as descrições do modelo:
cat /sys/class/scsi_host/host*/modeldescVocê deverá ver uma saída semelhante ao exemplo a seguir:
Emulex LPe36002-M64 2-Port 64Gb Fibre Channel Adapter Emulex LPe36002-M64 2-Port 64Gb Fibre Channel Adapter
-
-
Verifique se você está usando o firmware Broadcom recomendado e o driver da
lpfccaixa de entrada:-
Exibir a versão do firmware:
cat /sys/class/scsi_host/host*/fwrevO exemplo a seguir mostra as versões de firmware:
14.4.725.15, sli-4:6:d 14.4.725.15, sli-4:6:d
-
Exibir a versão do driver da caixa de entrada:
cat /sys/module/lpfc/versionO exemplo a seguir mostra uma versão do driver:
0:14.4.0.8
+
Para obter a lista atual de versões de firmware e drivers de adaptador suportados, consulte "Ferramenta de Matriz de interoperabilidade". -
-
Verifique se
lpfc_enable_fc4_typeestá definido como3:cat /sys/module/lpfc/parameters/lpfc_enable_fc4_type -
Verifique se você pode exibir suas portas do iniciador:
cat /sys/class/fc_host/host*/<port_name>O exemplo a seguir mostra identidades de porta:
0x100000620b3c089c 0x100000620b3c089d
-
Verifique se as portas do iniciador estão online:
cat /sys/class/fc_host/host*/port_stateVocê deve ver a seguinte saída:
Online Online
-
Verifique se as portas do iniciador NVMe/FC estão ativadas e se as portas de destino estão visíveis:
cat /sys/class/scsi_host/host*/nvme_infoMostrar exemplo
NVME Initiator Enabled XRI Dist lpfc0 Total 6144 IO 5894 ELS 250 NVME LPORT lpfc0 WWPN x100000620b3c089c WWNN x200000620b3c089c DID x081300 ONLINE NVME RPORT WWPN x2001d039eab0dadc WWNN x2000d039eab0dadc DID x080107 TARGET DISCSRVC ONLINE NVME RPORT WWPN x2221d039eab0dadc WWNN x2220d039eab0dadc DID x080105 TARGET DISCSRVC ONLINE NVME Statistics LS: Xmt 000000713b Cmpl 000000713b Abort 00000001 LS XMIT: Err 00000000 CMPL: xb 00000001 Err 00000001 Total FCP Cmpl 00000000a513b8bb Issue 00000000a4f2485c OutIO ffffffffffde8fa1 abort 00006935 noxri 000004f0 nondlp 0002e119 qdepth 00000000 wqerr 00000000 err 00000000 FCP CMPL: xb 0000693d Err 0009cb89 NVME Initiator Enabled XRI Dist lpfc1 Total 6144 IO 5894 ELS 250 NVME LPORT lpfc1 WWPN x100000620b3c089d WWNN x200000620b3c089d DID x081900 ONLINE NVME RPORT WWPN x2002d039eab0dadc WWNN x2000d039eab0dadc DID x080207 TARGET DISCSRVC ONLINE NVME RPORT WWPN x2222d039eab0dadc WWNN x2220d039eab0dadc DID x080205 TARGET DISCSRVC ONLINE NVME Statistics LS: Xmt 0000007171 Cmpl 0000007171 Abort 00000000 LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000 Total FCP Cmpl 00000000a509cecc Issue 00000000a4e7ed6c OutIO ffffffffffde1ea0 abort 000069c5 noxri 00000406 nondlp 000301e6 qdepth 00000000 wqerr 00000000 err 00000000 FCP CMPL: xb 000069d6 Err 0009cbcds
Configure o NVMe/FC para um adaptador Marvell/QLogic.
-
Verifique se você está executando o driver de adaptador e as versões de firmware compatíveis:
cat /sys/class/fc_host/host*/symbolic_nameO exemplo a seguir mostra as versões do driver e do firmware:
QLE2872 FW:v9.15.17 DVR:v10.02.09.300-k
-
Verifique se
ql2xnvmeenableestá definido. Isso permite que o adaptador Marvell funcione como um iniciador NVMe/FC:cat /sys/module/qla2xxx/parameters/ql2xnvmeenableA saída esperada é 1.
O protocolo NVMe/TCP não suporta a operação de conexão automática. Em vez disso, você pode descobrir os subsistemas e namespaces NVMe/TCP executando o NVMe/TCP connect ou connect-all operações manualmente.
-
Verifique se a porta do iniciador pode buscar os dados da página de log de descoberta nas LIFs NVMe/TCP suportadas:
nvme discover -t tcp -w host-traddr -a traddrMostrar exemplo
nvme discover -t tcp -w 192.168.41.7 -a 192.168.41.10 Discovery Log Entry ===== trtype: tcp adrfam: ipv4 subtype: current discovery subsystem treq: not specified portid: 8 trsvcid: 8009 subnqn: nqn.1992-08.com.netapp:sn.06a49b19b3ee11f09dcad039eabac370:discovery traddr: 192.168.31.99 eflags: explicit discovery connections, duplicate discovery information sectype: none Discovery Log Entry 1===== trtype: tcp adrfam: ipv4 subtype: current discovery subsystem treq: not specified portid: 8 trsvcid: 8009 subnqn: nqn.1992-08.com.netapp:sn.06a49b19b3ee11f09dcad039eabac370:discovery traddr: 192.168.30.99 eflags: explicit discovery connections, duplicate discovery information sectype: none Discovery Log Entry 2===== trtype: tcp adrfam: ipv4 subtype: current discovery subsystem treq: not specified portid: 8 trsvcid: 8009 subnqn: nqn.1992-08.com.netapp:sn.06a49b19b3ee11f09dcad039eabac370:discovery traddr: 192.168.31.98 eflags: explicit discovery connections, duplicate discovery information sectype: none Discovery Log Entry 3===== trtype: tcp adrfam: ipv4 subtype: current discovery subsystem treq: not specified portid: 5 trsvcid: 8009 subnqn: nqn.1992-08.com.netapp:sn.06a49b19b3ee11f09dcad039eabac370:discovery traddr: 192.168.30.98 eflags: explicit discovery connections, duplicate discovery information sectype: none Discovery Log Entry 4===== trtype: tcp adrfam: ipv4 subtype: nvme subsystem treq: not specified portid: 8 trsvcid: 4420 subnqn: nqn.1992-08.com.netapp:sn.06a49b19b3ee11f09dcad039eabac370:subsystem traddr: 192.168.31.99 eflags: none sectype: none Discovery Log Entry 5===== trtype: tcp adrfam: ipv4 subtype: nvme subsystem treq: not specified portid: 6 trsvcid: 4420 subnqn: nqn.1992-08.com.netapp:sn.06a49b19b3ee11f09dcad039eabac370:subsystem traddr: 192.168.30.99 eflags: none sectype: none Discovery Log Entry 6===== trtype: tcp adrfam: ipv4 subtype: nvme subsystem treq: not specified portid: 7 trsvcid: 4420 subnqn: nqn.1992-08.com.netapp:sn.06a49b19b3ee11f09dcad039eabac370:subsystem traddr: 192.168.31.98 eflags: none sectype: none Discovery Log Entry 7===== trtype: tcp adrfam: ipv4 subtype: nvme subsystem treq: not specified portid: 5 trsvcid: 4420 subnqn: nqn.1992-08.com.netapp:sn.06a49b19b3ee11f09dcad039eabac370:subsystem traddr: 192.168.30.98 eflags: none sectype: none
-
Verifique se as outras combinações de LIF entre iniciador e destino do NVMe/TCP podem obter com êxito os dados da página de log de descoberta:
nvme discover -t tcp -w host-traddr -a traddrMostrar exemplo
nvme discover -t tcp -w 192.168.41.7 -a 192.168.41.10 nvme discover -t tcp -w 192.168.41.7 -a 192.168.41.11 nvme discover -t tcp -w 192.168.48.7 -a 192.168.48.10 nvme discover -t tcp -w 192.168.48.7 -a 192.168.48.11
-
Execute o
nvme connect-allcomando em todos os LIFs de destino iniciador NVMe/TCP suportados nos nós:nvme connect-all -t tcp -w host-traddr -a traddrMostrar exemplo
nvme connect-all -t tcp -w 192.168.41.7 -a 192.168.41.10 nvme connect-all -t tcp -w 192.168.41.7 -a 192.168.41.11 nvme connect-all -t tcp -w 192.168.48.7 -a 192.168.48.10 nvme connect-all -t tcp -w 192.168.48.7 -a 192.168.48.11
A partir do Oracle Linux 9.4, a configuração para NVMe/TCP ctrl_loss_tmo timeout é automaticamente definido como "desligado". Como resultado:
-
Não há limites para o número de tentativas (nova tentativa indefinida).
-
Você não precisa configurar manualmente um específico
ctrl_loss_tmo timeoutduração ao usar onvme connectounvme connect-allcomandos (opção -l). -
Os controladores NVMe/TCP não sofrem timeouts em caso de falha de caminho e permanecem conectados indefinidamente.
Etapa 4: Opcionalmente, modifique a política de E/S nas regras udev.
No Oracle Linux 9.x, o host define a política de E/S padrão para NVMe-oF como round-robin. A partir do Oracle Linux 9.6, você pode alterar a política de E/S para queue-depth modificando o arquivo de regras udev.
-
Abra o arquivo de regras do udev em um editor de texto com privilégios de root:
/usr/lib/udev/rules.d/71-nvmf-netapp.rulesVocê deve ver a seguinte saída:
vi /usr/lib/udev/rules.d/71-nvmf-netapp.rules
-
Localize a linha que define a política de E/S (iopolicy) para o controlador NetApp ONTAP .
O exemplo a seguir mostra um exemplo de regra:
ACTION=="add", SUBSYSTEM=="nvme-subsystem", ATTR{subsystype}=="nvm", ATTR{model}=="NetApp ONTAP Controller", ATTR{iopolicy}="queue-depth" -
Modifique a regra para que
queue-depthse torneround-robin:ACTION=="add", SUBSYSTEM=="nvme-subsystem", ATTR{subsystype}=="nvm", ATTR{model}=="NetApp ONTAP Controller", ATTR{iopolicy}="round-robin" -
Recarregue as regras udev e aplique as alterações:
udevadm control --reload udevadm trigger --subsystem-match=nvme-subsystem -
Verifique a política de E/S atual para o seu subsistema. Substitua <subsistema>, por exemplo,
nvme-subsys0.cat /sys/class/nvme-subsystem/<subsystem>/iopolicyVocê deve ver a seguinte saída:
round-robin
|
|
A nova política de E/S (iopolicy) aplica-se automaticamente aos dispositivos NetApp ONTAP Controller correspondentes. Não é necessário reiniciar. |
Etapa 5: Opcionalmente, habilite a E/S de 1 MB para NVMe/FC.
O ONTAP relata um Tamanho Máximo de Transferência de Dados (MDTS) de 8 nos dados do Controlador de Identificação. Isso significa que o tamanho máximo da solicitação de E/S pode ser de até 1 MB. Para emitir solicitações de E/S de tamanho 1 MB para um host Broadcom NVMe/FC, você deve aumentar o lpfc valor do lpfc_sg_seg_cnt parâmetro para 256 do valor padrão de 64.
|
|
Essas etapas não se aplicam a hosts Qlogic NVMe/FC. |
-
Defina
lpfc_sg_seg_cnto parâmetro como 256:cat /etc/modprobe.d/lpfc.confVocê deverá ver uma saída semelhante ao exemplo a seguir:
options lpfc lpfc_sg_seg_cnt=256
-
Execute o
dracut -fcomando e reinicie o host. -
Verifique se o valor para
lpfc_sg_seg_cnté 256:cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt
Etapa 6: Verificar os serviços de inicialização NVMe
O nvmefc-boot-connections.service e nvmf-autoconnect.service serviços de inicialização incluídos no NVMe/FC nvme-cli Os pacotes são ativados automaticamente quando o sistema é inicializado.
Após a inicialização ser concluída, verifique se o nvmefc-boot-connections.service e nvmf-autoconnect.service os serviços de inicialização estão habilitados.
-
Verifique se
nvmf-autoconnect.serviceestá ativado:systemctl status nvmf-autoconnect.serviceMostrar exemplo de saída
nvme-autoconnect.service - Connect NVMe-oF subsystems automatically during boot Loaded: loaded (/usr/lib/systemd/system/nvme-autoconnect.service; enabled; preset: disabled) Active: inactive (dead) since Tue 2026-02-02 09:48:11 EDT; 1 week 0 days ago Main PID: 2620 (code=exited, status=0/SUCCESS) CPU: 19ms Feb 02 09:48:11 sr630-13-169 systemdStarting Connect NVMe-oF subsystems automatically during boot... Feb 02 09:48:11 sr630-13-169 systemdnvme-autoconnect.service: Deactivated successfully. Feb 02 09:48:11 sr630-13-169 systemdFinished Connect NVMe-oF subsystems automatically during boot. -
Verifique se
nvmefc-boot-connections.serviceestá ativado:systemctl status nvmefc-boot-connections.serviceMostrar exemplo de saída
nvmfcs-boot-connections.service - Auto-connect to subsystems on FC-NVME devices found during boot Loaded: loaded (/usr/lib/systemd/system/nvmfcs-bootconnections.service; enabled; preset: enabled) Active: inactive (dead) since Tue 2026-02-02 09:47:07 EDT; 1 week 0 days ago Main PID: 1651 (code=exited, status=0/SUCCESS) CPU: 14ms Feb 02 09:47:07 sr630-13-169 systemdStarting Auto-connect to subsystems on FC-NVME devices found during boot... Feb 02 09:47:07 sr630-13-169 systemdnvmfcs-bootconnections.service: Deactivated successfully. Feb 02 09:47:07 sr630-13-169 systemd[1]: Finished Auto-connect to subsystems on FC-NVME devices found during boot.
Etapa 7: Verifique a configuração de multipathing
Verifique se o status multipath do NVMe no kernel, o status ANA e os namespaces do ONTAP estão corretos para a configuração do NVMe-of.
-
Verifique se o multipath NVMe no kernel está habilitado:
cat /sys/module/nvme_core/parameters/multipathVocê deve ver a seguinte saída:
Y
-
Verifique se as configurações de NVMe-of apropriadas (como o modelo definido como controlador NetApp ONTAP e o balanceamento de carga iopolicy definido como round-robin) para os respetivos namespaces ONTAP refletem corretamente no host:
-
Exibir os subsistemas:
cat /sys/class/nvme-subsystem/nvme-subsys*/modelVocê deve ver a seguinte saída:
NetApp ONTAP Controller NetApp ONTAP Controller
-
Exibir a política:
cat /sys/class/nvme-subsystem/nvme-subsys*/iopolicyVocê deverá ver o valor definido para iopolicy, por exemplo:
queue-depth queue-depth
-
-
Verifique se os namespaces são criados e descobertos corretamente no host:
nvme listMostrar exemplo
Node Generic SN Model Namespace Usage Format FW Rev --------------- --------------- -------------------- ------------------------ ---------- -------------------------- ------------- -------- /dev/nvme102n1 /dev/ng102n1 81LLqNYTindCAAAAAAAk NetApp ONTAP Controller 0x1 2.25 GB / 5.37 GB 4 KiB + 0 B 9.17.1 /dev/nvme102n2 /dev/ng102n2 81LLqNYTindCAAAAAAAk NetApp ONTAP Controller 0x2 2.25 GB / 5.37 GB 4 KiB + 0 B 9.17.1 /dev/nvme106n1 /dev/ng106n1 81LLqNYTindCAAAAAAAs NetApp ONTAP Controller 0x1 2.25 GB / 5.37 GB 4 KiB + 0 B 9.17.1 /dev/nvme106n2 /dev/ng106n2 81LLqNYTindCAAAAAAAs NetApp ONTAP Controller 0x2 2.25 GB / 5.37 GB 4 KiB + 0 B 9.17.1
-
Verifique se o estado do controlador de cada caminho está ativo e tem o status ANA correto:
nvme list-subsys /dev/<controller_ID>A partir do ONTAP 9.16.1, NVMe/FV e NVMe/TCP reportam todos os caminhos otimizados em sistemas ASA r2. NVMe/FCOs exemplos de saída a seguir mostram um namespace hospedado em um controlador ONTAP de dois nós para um sistema AFF, FAS, ASA ou ASA r2 com NVMe/FC.
Exibir exemplos de saída de AFF, FAS e ASA
nvme-subsys14 - NQN=nqn.1992-08.com.netapp:sn.9e30b9760a4911f08c87d039eab67a95:subsystem.sles_161_27 hostnqn=nqn.2014-08.org.nvmexpress:uuid:f6517cae-3133-11e8-bbff-7ed30aef123f iopolicy=round-robin +- nvme114 fc traddr=nn-0x234ed039ea359e4a:pn-0x2360d039ea359e4a,host_traddr=nn-0x20000090fae0ec88:pn-0x10000090fae0ec88 live optimized +- nvme115 fc traddr=nn-0x234ed039ea359e4a:pn-0x2362d039ea359e4a,host_traddr=nn-0x20000090fae0ec88:pn-0x10000090fae0ec88 live non-optimized +- nvme116 fc traddr=nn-0x234ed039ea359e4a:pn-0x2361d039ea359e4a,host_traddr=nn-0x20000090fae0ec89:pn-0x10000090fae0ec89 live optimized +- nvme117 fc traddr=nn-0x234ed039ea359e4a:pn-0x2363d039ea359e4a,host_traddr=nn-0x20000090fae0ec89:pn-0x10000090fae0ec89 live non-optimized
Exibir exemplo de saída do ASA r2
nvme-subsys96 - NQN=nqn.1992-08.com.netapp:sn.b351b2b6777b11f0b3c2d039ea5cf9c1:subsystem.nvme24 hostnqn=nqn.2014-08.org.nvmexpress:uuid:d3b581b4-c975-11e6-8425-0894ef31a074 +- nvme203 fc traddr=nn-0x2011d039ea5cfc90:pn-0x2015d039ea5cfc90,host_traddr=nn-0x200000109bdacc76:pn-0x100000109bdacc76 live optimized +- nvme25 fc traddr=nn-0x2011d039ea5cfc90:pn-0x2014d039ea5cfc90,host_traddr=nn-0x200000109bdacc75:pn-0x100000109bdacc75 live optimized +- nvme30 fc traddr=nn-0x2011d039ea5cfc90:pn-0x2012d039ea5cfc90,host_traddr=nn-0x200000109bdacc75:pn-0x100000109bdacc75 live optimized +- nvme32 fc traddr=nn-0x2011d039ea5cfc90:pn-0x2013d039ea5cfc90,host_traddr=nn-0x200000109bdacc76:pn-0x100000109bdacc76 live optimized
NVMe/TCPOs exemplos de saída a seguir mostram um namespace hospedado em um controlador ONTAP de dois nós para um sistema AFF, FAS, ASA ou ASA r2 com NVMe/TCP.
Exibir exemplos de saída de AFF, FAS e ASA
nvme-subsys9 - NQN=nqn.1992-08.com.netapp:sn.9927e165694211f0b4f4d039eab31e9d:subsystem.nvme10 hostnqn=nqn.2014-08.org.nvmexpress:uuid:44cc4544-0035-5910-804b-b7c04f444d33 +- nvme105 tcp traddr=192.168.39.10,trsvcid=4420,host_traddr=192.168.39.20,src_addr=192.168.39.20 live optimized +- nvme153 tcp traddr=192.168.39.11,trsvcid=4420,host_traddr=192.168.39.20,src_addr=192.168.39.20 live non-optimized +- nvme57 tcp traddr=192.168.38.11,trsvcid=4420,host_traddr=192.168.38.20,src_addr=192.168.38.20 live non-optimized +- nvme9 tcp traddr=192.168.38.10,trsvcid=4420,host_traddr=192.168.38.20,src_addr=192.168.38.20 live optimized
Exibir exemplo de saída do ASA r2
nvme-subsys4 - NQN=nqn.1992-08.com.netapp:sn.17e32b6e8c7f11f09545d039eac03c33:subsystem.Bidirectional_DHCP_1_0 hostnqn=nqn.2014-08.org.nvmexpress:uuid:44cc4544-0054-5110-8039-c3c0f523034 +- nvme4 tcp traddr=192.168.20.28,trsvcid=4420,host_traddr=192.168.20.21,src_addr=192.168.20.21 live optimized +- nvme5 tcp traddr=192.168.20.29,trsvcid=4420,host_traddr=192.168.20.21,src_addr=192.168.20.21 live optimized +- nvme6 tcp traddr=192.168.21.28,trsvcid=4420,host_traddr=192.168.21.21,src_addr=192.168.21.21 live optimized +- nvme7 tcp traddr=192.168.21.29,trsvcid=4420,host_traddr=192.168.21.21,src_addr=192.168.21.21 live optimized
-
Verifique se o plug-in NetApp exibe os valores corretos para cada dispositivo de namespace ONTAP:
Colunanvme netapp ontapdevices -o columnMostrar exemplo
Device Vserver Namespace Path NSID UUID Size --------------- ----------- --------------------- ----- -------------------------------------- ------ /dev/nvme1n1 vs_sanboot sanboot_169 1 58443dbc-a472-45da-a5ef-3dd27c19d04b 171.80GB
JSONnvme netapp ontapdevices -o jsonMostrar exemplo
{ "ONTAPDevices": [ { "Device": "/dev/nvme11n1", "Vserver": "vs_sanboot", "Subsystem": "sanboot_169", "Namespace_Path": "/vol/nvme169/ns169", "NSID": 1, "UUID": "58443dbc-a472-45da-a5ef-3dd27c19d04b", "LBA_Size": 4096, "Namespace_Size": 171798691840, "UsedBytes": 6016638976, "Version": "9.18.1" } ] }
Etapa 8: Configurar autenticação segura em banda
A autenticação segura em banda é suportada via NVMe/TCP entre um host Oracle Linux 9.x e um controlador ONTAP .
Cada host ou controlador deve ser associado a uma chave DH-HMAC-CHAP para configurar a autenticação segura. Uma chave DH-HMAC-CHAP é uma combinação do NQN do host ou controlador NVMe e um segredo de autenticação configurado pelo administrador. Para autenticar seu par, um host ou controlador NVMe deve reconhecer a chave associada ao par.
Configure a autenticação segura em banda usando a CLI ou um arquivo JSON de configuração. Utilize um arquivo JSON de configuração se precisar especificar chaves dhchap diferentes para subsistemas diferentes.
Configure a autenticação segura na banda usando a CLI.
-
Obtenha o NQN do host:
cat /etc/nvme/hostnqn -
Gere a chave dhchap para o host Linux.
A saída a seguir descreve os
gen-dhchap-keyparâmetros de comando:nvme gen-dhchap-key -s optional_secret -l key_length {32|48|64} -m HMAC_function {0|1|2|3} -n host_nqn • -s secret key in hexadecimal characters to be used to initialize the host key • -l length of the resulting key in bytes • -m HMAC function to use for key transformation 0 = none, 1- SHA-256, 2 = SHA-384, 3=SHA-512 • -n host NQN to use for key transformationNo exemplo a seguir, uma chave dhchap aleatória com HMAC definido como 3 (SHA-512) é gerada.
# nvme gen-dhchap-key -m 3 -n nqn.2014-08.org.nvmexpress:uuid:4c4c4544-0056-5410-8048-c4c04f425633 DHHC-1:03:xhAfbAD5IVLZDxiVbmFEOA5JZ3F/ERqTXhHzZQJKgkYkTbPI9dhRyVtr4dBD+SGiAJO3by4FbnVtov1Lmk+86+nNc6k=
-
No controlador ONTAP, adicione o host e especifique ambas as chaves dhchap:
vserver nvme subsystem host add -vserver <svm_name> -subsystem <subsystem> -host-nqn <host_nqn> -dhchap-host-secret <authentication_host_secret> -dhchap-controller-secret <authentication_controller_secret> -dhchap-hash-function {sha-256|sha-512} -dhchap-group {none|2048-bit|3072-bit|4096-bit|6144-bit|8192-bit} -
Um host suporta dois tipos de métodos de autenticação, unidirecional e bidirecional. No host, conete-se ao controlador ONTAP e especifique as chaves dhchap com base no método de autenticação escolhido:
nvme connect -t tcp -w <host-traddr> -a <tr-addr> -n <host_nqn> -S <authentication_host_secret> -C <authentication_controller_secret> -
Valide o
nvme connect authenticationcomando verificando as chaves dhchap do host e do controlador:-
Verifique as chaves dhchap do host:
cat /sys/class/nvme-subsystem/<nvme-subsysX>/nvme*/dhchap_secretMostrar exemplo de saída para uma configuração unidirecional
cat /sys/class/nvme-subsystem/nvme-subsys1/nvme*/dhchap_secret DHHC-1:03:Y5VkkESgmtTGNdX842qemNpFK6BXYVwwnqErgt3IQKP5Fbjje\/JSBOjG5Ea3NBLRfuiAuUSDUto6eY\/GwKoRp6AwGkw=: DHHC-1:03:Y5VkkESgmtTGNdX842qemNpFK6BXYVwwnqErgt3IQKP5Fbjje\/JSBOjG5Ea3NBLRfuiAuUSDUto6eY\/GwKoRp6AwGkw=: DHHC-1:03:Y5VkkESgmtTGNdX842qemNpFK6BXYVwwnqErgt3IQKP5Fbjje\/JSBOjG5Ea3NBLRfuiAuUSDUto6eY\/GwKoRp6AwGkw=: DHHC-1:03:Y5VkkESgmtTGNdX842qemNpFK6BXYVwwnqErgt3IQKP5Fbjje\/JSBOjG5Ea3NBLRfuiAuUSDUto6eY\/GwKoRp6AwGkw=:
-
Verifique as chaves dhchap do controlador:
cat /sys/class/nvme-subsystem/<nvme-subsysX>/nvme*/dhchap_ctrl_secretMostrar exemplo de saída para uma configuração bidirecional
cat /sys/class/nvme-subsystem/nvme-subsys6/nvme*/dhchap_ctrl_secret DHHC-1:03:frpLlTrnOYtcWDxPzq4ccxU1UrH2FjV7hYw5s2XEDB+lo+TjMsOwHR\/NFtM0nBBidx+gdoyUcC5s6hOOtTLDGcz0Kbs=: DHHC-1:03:frpLlTrnOYtcWDxPzq4ccxU1UrH2FjV7hYw5s2XEDB+lo+TjMsOwHR\/NFtM0nBBidx+gdoyUcC5s6hOOtTLDGcz0Kbs=: DHHC-1:03:frpLlTrnOYtcWDxPzq4ccxU1UrH2FjV7hYw5s2XEDB+lo+TjMsOwHR\/NFtM0nBBidx+gdoyUcC5s6hOOtTLDGcz0Kbs=: DHHC-1:03:frpLlTrnOYtcWDxPzq4ccxU1UrH2FjV7hYw5s2XEDB+lo+TjMsOwHR\/NFtM0nBBidx+gdoyUcC5s6hOOtTLDGcz0Kbs=:
-
Quando vários subsistemas NVMe estiverem disponíveis na configuração do controlador ONTAP, você poderá usar o /etc/nvme/config.json arquivo com o nvme connect-all comando.
Use o -o opção para gerar o arquivo JSON. Consulte as páginas do manual do NVMe connect-all para obter mais opções de sintaxe.
-
Configure o arquivo JSON:
Mostrar exemplo
[ { "hostnqn":"nqn.2014-08.org.nvmexpress:uuid:4c4cxxxx-0035-xxxx-804b-b7cxxxx44d33", "hostid":"4c4cxxxx-0035-xxxx-804b-b7cxxxx44d33", "dhchap_key":"DHHC-1:01:nFg06gV0FNpXqoiLOF0L+swULQpZU/PjU9v/McDeJHjTZFlF:", "subsystems":[ { "nqn":"nqn.1992-08.com.netapp:sn.09035a8d8c8011f0ac0fd039eabac370:subsystem.subsys", "ports":[ { "transport":"tcp", "traddr":"192.168.30.69", "host_traddr":"192.168.30.10", "trsvcid":"4420", "dhchap_ctrl_key":"DHHC-1:03:n3F8d+bvxKW/s+lEhqXaOohI2sxrQ9iLutzduuFq49JgdjjaFtTpDSO9kQl/bvZj+Bo3rdHh3xPXeP6a4xyhcRyqdds=:" } ] } ] } ]No exemplo anterior, dhchap_keycorrespondedhchap_secretedhchap_ctrl_keycorrespondedhchap_ctrl_secreta . -
Conete-se ao controlador ONTAP usando o arquivo JSON de configuração:
nvme connect-all -J /etc/nvme/config.json -
Verifique se os segredos dhchap foram ativados para os respetivos controladores para cada subsistema:
-
Verifique as chaves dhchap do host:
cat /sys/class/nvme-subsystem/nvme-subsys0/nvme0/dhchap_secretO exemplo a seguir mostra uma chave dhchap:
DHHC-1:01:nFg06gV0FNpXqoiLOF0L+swULQpZU/PjU9v/McDeJHjTZFlF:
-
Verifique as chaves dhchap do controlador:
cat /sys/class/nvme-subsystem/nvme-subsys0/nvme0/dhchap_ctrl_secretVocê deverá ver uma saída semelhante ao exemplo a seguir:
DHHC-1:03:n3F8d+bvxKW/s+lEhqXaOohI2sxrQ9iLutzduuFq49JgdjjaFtTpDSO9kQl/bvZj+Bo3rdHh3xPXeP6a4xyhcRyqdds=:
-
Passo 9: Revise os problemas conhecidos
Não há problemas conhecidos.