La version française est une traduction automatique. La version anglaise prévaut sur la française en cas de divergence.

Configurer RHEL 8.9 pour NVMe-oF avec stockage ONTAP

10/08/2025 Contributeurs

Les hôtes Red Hat Enterprise Linux (RHEL) prennent en charge les protocoles NVMe over Fibre Channel (NVMe/FC) et NVMe over TCP (NVMe/TCP) avec Asymmetric Namespace Access (ANA). ANA fournit une fonctionnalité de multi-accès équivalente à l'accès aux unités logiques asymétriques (ALUA) dans les environnements iSCSI et FCP.

Découvrez comment configurer les hôtes NVMe over Fabrics (NVMe-oF) pour RHEL 8.9. Pour plus d'informations sur l'assistance et les fonctionnalités, consultez"Présentation de NVME-oF" .

NVMe-oF avec RHEL 8.9 présente les limitations connues suivantes :

Le démarrage SAN à l'aide du protocole NVMe-oF n'est actuellement pas pris en charge.
Le multipath NVMe dans le noyau est désactivé par défaut sur les hôtes NVMe-oF dans RHEL 8.9 ; vous devez l'activer manuellement.
NVMe/TCP est disponible en tant qu'aperçu technologique en raison de problèmes connus.

Étape 1 : activez éventuellement le démarrage SAN

Vous pouvez configurer votre hôte pour utiliser le démarrage SAN afin de simplifier le déploiement et d’améliorer l’évolutivité. Utilisez le"Matrice d'interopérabilité" pour vérifier que votre système d'exploitation Linux, votre adaptateur de bus hôte (HBA), votre micrologiciel HBA, votre BIOS de démarrage HBA et votre version ONTAP prennent en charge le démarrage SAN.

Étapes

"Créez un espace de noms NVMe et mappez-le à l'hôte" .
Activez le démarrage SAN dans le BIOS du serveur pour les ports auxquels l'espace de noms de démarrage SAN est mappé.

Pour plus d'informations sur l'activation du BIOS HBA, reportez-vous à la documentation spécifique au fournisseur.
Redémarrez l’hôte et vérifiez que le système d’exploitation est opérationnel.

Étape 2 : Vérifiez la version du logiciel et la configuration NVMe

Vérifiez que votre système répond aux exigences logicielles et vérifiez les installations des packages NVMe et la configuration de l’hôte.

Étapes

Installez RHEL 8.9 sur le serveur. Une fois l'installation terminée, vérifiez que vous exécutez le noyau RHEL 8.9 requis :
```
uname -r
```
Exemple de version du noyau RHEL :
```
4.18.0-513.5.1.el8_9.x86_64
```
Installer le nvme-cli groupe :
```
rpm -qa|grep nvme-cli
```
L'exemple suivant montre une version de package nvme-cli :
```
nvme-cli-1.16-9.el8.x86_64
```
Installer le libnvme groupe :
```
rpm -qa|grep libnvme
```
L'exemple suivant montre une version de package libnvme :
```
libnvme-1.4-3.el8.x86_64
```

Activer le multichemin NVMe dans le noyau :

grubby --args=nvme_core.multipath=Y --update-kernel /boot/vmlinuz-4.18.0-513.5.1.el8_9.x86_64

Sur l'hôte RHEL 8.9, vérifiez le hostnqn chaîne à /etc/nvme/hostnqn :
```
cat /etc/nvme/hostnqn
```
L'exemple suivant montre un hostnqn version:
```
nqn.2014-08.org.nvmexpress:uuid:4c4c4544-0032-3410-8035-b8c04f4c5132
```

Vérifiez que le hostnqn la chaîne correspond à la hostnqn chaîne pour le sous-système correspondant sur le système de stockage ONTAP :

::> vserver nvme subsystem host show -vserver vs_fcnvme_141

Montrer l'exemple

Vserver     Subsystem          Host NQN
----------- --------------- ----------------------------------------------------------
vs_nvme101   rhel_101_QLe2772    nqn.2014-08.org.nvmexpress:uuid:4c4c4544-0032-3410-8035-b8c04f4c5132

Si le hostnqn les chaînes ne correspondent pas, utilisez le vserver modify commande pour mettre à jour le hostnqn chaîne sur votre sous-système de stockage ONTAP correspondant pour correspondre à la hostnqn chaîne de /etc/nvme/hostnqn sur l'hôte.

Redémarrez l'hôte.

Pour exécuter le trafic NVMe et SCSI sur le même hôte, NetApp recommande d'utiliser le multipath NVMe intégré au noyau pour les espaces de noms ONTAP et dm-multipath pour les LUN ONTAP . Pour empêcher dm-multipath de revendiquer des périphériques d'espace de noms ONTAP , excluez-les en ajoutant le enable_foreign réglage à la /etc/multipath.conf déposer:

cat /etc/multipath.conf
defaults {
        enable_foreign     NONE
}

Étape 3 : Configurer NVMe/FC et NVMe/TCP

Configurez NVMe/FC avec des adaptateurs Broadcom/Emulex ou Marvell/QLogic, ou configurez NVMe/TCP à l'aide d'opérations de découverte et de connexion manuelles.

FC - Broadcom/Emulex

Configuration de NVMe/FC pour une carte Broadcom/Emulex

Étapes

Vérifiez que vous utilisez le modèle d'adaptateur pris en charge :
1. Afficher les noms des modèles :
  cat /sys/class/scsi_host/host*/modelname
  Vous devriez voir un résultat similaire à l’exemple suivant :
  LPe32002-M2 LPe32002-M2
2. Afficher les descriptions des modèles :
  cat /sys/class/scsi_host/host*/modeldesc
  Vous devriez voir un résultat similaire à l’exemple suivant :
```
Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter
Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter
```
Vérifiez que vous utilisez la carte Broadcom recommandée lpfc micrologiciel et pilote de boîte de réception :
1. Afficher la version du firmware :
  cat /sys/class/scsi_host/host*/fwrev
  La commande renvoie les versions du firmware :
  14.2.539.16, sli-4:2:c 14.2.539.16, sli-4:2:c
2. Afficher la version du pilote de la boîte de réception :
  cat /sys/module/lpfc/version
  L'exemple suivant montre une version de pilote :
  0:14.0.0.21
Pour obtenir la liste actuelle des versions de pilotes et de micrologiciels de carte prises en charge, consultez le "Matrice d'interopérabilité".

Vérifiez-le lpfc_enable_fc4_type est défini sur 3:

cat /sys/module/lpfc/parameters/lpfc_enable_fc4_type

Vérifiez que vous pouvez afficher vos ports initiateurs :
```
cat /sys/class/fc_host/host*/port_name
```
Vous devriez voir un résultat similaire à l’exemple suivant :
```
0x10000090fae0ec88
0x10000090fae0ec89
```
Vérifiez que vos ports initiateurs sont en ligne :
```
cat /sys/class/fc_host/host*/port_state
```
Vous devriez voir le résultat suivant :
```
Online
Online
```

Vérifiez que les ports initiateurs NVMe/FC sont activés et que les ports cibles sont visibles :

cat /sys/class/scsi_host/host*/nvme_info

Montrer l'exemple

NVME Initiator Enabled
XRI Dist lpfc0 Total 6144 IO 5894 ELS 250
NVME LPORT lpfc0 WWPN x10000090fae0ec88 WWNN x20000090fae0ec88 DID x0a1300 ONLINE
NVME RPORT       WWPN x2049d039ea36a105 WWNN x2048d039ea36a105 DID x0a0c0a TARGET DISCSRVC ONLINE

NVME Statistics
LS: Xmt 0000000024 Cmpl 0000000024 Abort 00000000
LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000
Total FCP Cmpl 00000000000001aa Issue 00000000000001ab OutIO 0000000000000001
        abort 00000002 noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000
FCP CMPL: xb 00000002 Err 00000003

NVME Initiator Enabled
XRI Dist lpfc1 Total 6144 IO 5894 ELS 250
NVME LPORT lpfc1 WWPN x10000090fae0ec89 WWNN x20000090fae0ec89 DID x0a1200 ONLINE
NVME RPORT       WWPN x204ad039ea36a105 WWNN x2048d039ea36a105 DID x0a080a TARGET DISCSRVC ONLINE

NVME Statistics
LS: Xmt 0000000024 Cmpl 0000000024 Abort 00000000
LS XMIT: Err 00000000 CMPL: xb 00000000 Err 00000000
Total FCP Cmpl 00000000000001ac Issue 00000000000001ad OutIO 0000000000000001
        abort 00000002 noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000
FCP CMPL: xb 00000002 Err 00000003

FC - Marvell/QLogic

Configurer NVMe/FC pour un adaptateur Marvell/QLogic

Étapes

Vérifiez que vous utilisez les versions de pilote d'adaptateur et de micrologiciel prises en charge :
```
cat /sys/class/fc_host/host*/symbolic_name
```
L'exemple suivant montre les versions du pilote et du micrologiciel :
```
QLE2742 FW: v9.10.11 DVR: v10.02.08.200-k
QLE2742 FW: v9.10.11 DVR: v10.02.08.200-k
```
Vérifiez-le ql2xnvmeenable est défini. L'adaptateur Marvell peut ainsi fonctionner en tant qu'initiateur NVMe/FC :
```
cat /sys/module/qla2xxx/parameters/ql2xnvmeenable
```
La sortie attendue est 1.

TCP

Le protocole NVMe/TCP ne prend pas en charge l'opération de connexion automatique. Au lieu de cela, vous pouvez découvrir les sous-systèmes et espaces de noms NVMe/TCP en exécutant l'opération NVMe/TCP. connect ou connect-all opérations manuellement.

Étapes

Vérifiez que le port initiateur peut obtenir les données de la page du journal de découverte sur les LIF NVMe/TCP pris en charge :

nvme discover -t tcp -w host-traddr -a traddr

Montrer l'exemple

nvme discover -t tcp -w 192.168.111.79 -a 192.168.111.14 -l 1800

Discovery Log Number of Records 8, Generation counter 18
=====Discovery Log Entry 0======
trtype:  tcp
adrfam:  ipv4
subtype: unrecognized
treq:    not specified.
portid:  0
trsvcid: 8009
subnqn:  nqn.1992-08.com.netapp:sn.154a5833c78c11ecb069d039ea359e4b: discovery
traddr:  192.168.211.15
sectype: none
=====Discovery Log Entry 1======
trtype:  tcp
adrfam:  ipv4
subtype: unrecognized
treq:    not specified.
portid:  1
trsvcid: 8009
subnqn:  nqn.1992-08.com.netapp:sn.154a5833c78c11ecb069d039ea359e4b: discovery
traddr:  192.168.111.15
sectype: none

Vérifiez que les autres combinaisons LIF initiateur-cible NVMe/TCP peuvent récupérer avec succès les données de la page du journal de découverte :

nvme discover -t tcp -w host-traddr -a traddr

Montrer l'exemple

nvme discover -t tcp -w 192.168.111.79 -a 192.168.111.14
nvme discover -t tcp -w 192.168.111.79 -a 192.168.111.15
nvme discover -t tcp -w 192.168.211.79 -a 192.168.211.14
nvme discover -t tcp -w 192.168.211.79 -a 192.168.211.15

Exécutez le nvme connect-all Commande sur toutes les LIF cible-initiateur NVMe/TCP prises en charge sur l'ensemble des nœuds :

nvme connect-all -t tcp -w host-traddr -a traddr -1 1800

Montrer l'exemple

nvme connect-all -t tcp -w 192.168.111.79 -a 192.168.111.14 -l 1800
nvme connect-all -t tcp -w 192.168.111.79 -a 192.168.111.15 -l 1800
nvme connect-all -t tcp -w 192.168.211.79 -a 192.168.211.14 -l 1800
nvme connect-all -t tcp -w 192.168.211.79 -a 192.168.211.15 -l 1800

Étape 4 : Activez éventuellement 1 Mo d'E/S pour NVMe/FC

ONTAP signale une taille de transfert de données maximale (MDTS) de 8 dans les données du contrôleur d'identification. Cela signifie que la taille maximale de la demande d'E/S peut atteindre 1 Mo. Pour émettre des requêtes d'E/S d'une taille de 1 Mo pour un hôte Broadcom NVMe/FC, vous devez augmenter la lpfc valeur de la lpfc_sg_seg_cnt paramètre à 256 à partir de la valeur par défaut de 64.

Ces étapes ne s'appliquent pas aux hôtes NVMe/FC Qlogic.

Étapes

Réglez le lpfc_sg_seg_cnt paramètre sur 256 :
```
cat /etc/modprobe.d/lpfc.conf
```
Vous devriez voir une sortie similaire à l’exemple suivant :
```
options lpfc lpfc_sg_seg_cnt=256
```
Exécutez dracut -f la commande et redémarrez l'hôte.
Vérifier que la valeur de lpfc_sg_seg_cnt est 256 :
```
cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt
```

Étape 5 : Valider NVMe-oF

Vérifiez que l'état des chemins d'accès multiples NVMe in-kernel, l'état ANA et les namespaces ONTAP sont corrects pour la configuration NVMe-of.

Étapes

Vérifiez que le chemin d'accès multiples NVMe intégré au noyau est activé :
```
cat /sys/module/nvme_core/parameters/multipath
```
Vous devriez voir le résultat suivant :
```
Y
```
Vérifiez que les paramètres NVMe-of appropriés (par exemple, modèle défini sur contrôleur NetApp ONTAP et iopole d'équilibrage de la charge sur round-Robin) pour les espaces de noms ONTAP respectifs reflètent correctement l'hôte :
1. Afficher les sous-systèmes :
  cat /sys/class/nvme-subsystem/nvme-subsys*/model
  Vous devriez voir le résultat suivant :
  NetApp ONTAP Controller NetApp ONTAP Controller
2. Afficher la politique :
  cat /sys/class/nvme-subsystem/nvme-subsys*/iopolicy
  Vous devriez voir le résultat suivant :
```
round-robin
round-robin
```

Vérifiez que les espaces de noms sont créés et correctement découverts sur l'hôte :

nvme list

Montrer l'exemple

Node         SN                   Model
---------------------------------------------------------
/dev/nvme4n1 81Ix2BVuekWcAAAAAAAB	NetApp ONTAP Controller


Namespace Usage    Format             FW             Rev
-----------------------------------------------------------
1                 21.47 GB / 21.47 GB	4 KiB + 0 B   FFFFFFFF

Vérifiez que l'état du contrôleur de chaque chemin est actif et que l'état ANA est correct :

NVMe/FC

nvme list-subsys /dev/nvme3n1

Montrer l'exemple

nvme-subsys0 - NQN=nqn.1992-08.com.netapp:sn.8e501f8ebafa11ec9b99d039ea359e4b:subsystem.rhel_163_Qle2742
+- nvme0 fc traddr=nn-0x204dd039ea36a105:pn-0x2050d039ea36a105 host_traddr=nn-0x20000024ff7f4994:pn-0x21000024ff7f4994 live non-optimized
+- nvme1 fc traddr=nn-0x204dd039ea36a105:pn-0x2050d039ea36a105 host_traddr=nn-0x20000024ff7f4994:pn-0x21000024ff7f4994 live non-optimized
+- nvme2 fc traddr=nn-0x204dd039ea36a105:pn-0x204fd039ea36a105 host_traddr=nn-0x20000024ff7f4995:pn-0x21000024ff7f4995 live optimized
+- nvme3 fc traddr=nn-0x204dd039ea36a105:pn-0x204ed039ea36a105 host_traddr=nn-0x20000024ff7f4994:pn-0x21000024ff7f4994 live optimized

NVMe/TCP

nvme list-subsys /dev/nvme0n1

Montrer l'exemple

nvme-subsys0 - NQN=nqn.1992-08.com.netapp:sn.154a5833c78c11ecb069d039ea359e4b:subsystem.rhel_tcp_165\
+- nvme0 tcp traddr=192.168.111.15 trsvcid=4420 host_traddr=192.168.111.79 live non-optimized
+- nvme1 tcp traddr=192.168.111.14 trsvcid=4420 host_traddr=192.168.111.79 live optimized
+- nvme2 tcp traddr=192.168.211.15 trsvcid=4420 host_traddr=192.168.211.79 live non-optimized
+- nvme3 tcp traddr=192.168.211.14 trsvcid=4420 host_traddr=192.168.211.79 live optimized

Vérifier que le plug-in NetApp affiche les valeurs correctes pour chaque périphérique d'espace de noms ONTAP :

Colonne

nvme netapp ontapdevices -o column

Montrer l'exemple

Device        Vserver   Namespace Path
----------------------- ------------------------------
/dev/nvme0n1 vs_tcp79           /vol/vol1/ns


NSID       UUID                                   Size
------------------------------------------------------------
1          aa197984-3f62-4a80-97de-e89436360cec	21.47GB

JSON

nvme netapp ontapdevices -o json

Montrer l'exemple

{
  "ONTAPdevices”: [
    {
      "Device”: "/dev/nvme0n1",
      "Vserver”: "vs_tcp79",
      "Namespace Path”: "/vol/vol1/ns",
      "NSID”: 1,
      "UUID”: "aa197984-3f62-4a80-97de-e89436360cec",
      "Size”: "21.47GB",
      "LBA_Data_Size”: 4096,
      "Namespace Size" : 5242880
    },
]

}

Étape 6 : passez en revue les problèmes connus

Voici les problèmes connus :

ID de bug NetApp	Titre	Description
"1479047"	Les hôtes RHEL 8.9 NVMe-oF créent des contrôleurs de découverte persistants (PDC) en double	Sur les hôtes NVMe-oF, vous pouvez utiliser la commande « nvme discover -p » pour créer des PDC. Lorsque cette commande est utilisée, un seul PDC doit être créé par combinaison initiateur-cible. Cependant, si vous exécutez RHEL 8.9 sur un hôte NVMe-oF, un PDC en double est créé chaque fois que « nvme discover -p » est exécuté. Cela conduit à une utilisation inutile des ressources à la fois sur l’hôte et sur la cible.

ID de bug NetApp

Titre

Description

"1479047"

Les hôtes RHEL 8.9 NVMe-oF créent des contrôleurs de découverte persistants (PDC) en double

Sur les hôtes NVMe-oF, vous pouvez utiliser la commande « nvme discover -p » pour créer des PDC. Lorsque cette commande est utilisée, un seul PDC doit être créé par combinaison initiateur-cible. Cependant, si vous exécutez RHEL 8.9 sur un hôte NVMe-oF, un PDC en double est créé chaque fois que « nvme discover -p » est exécuté. Cela conduit à une utilisation inutile des ressources à la fois sur l’hôte et sur la cible.

Configurer RHEL 8.9 pour NVMe-oF avec stockage ONTAP

Creating your file...

Étape 1 : activez éventuellement le démarrage SAN

Étape 2 : Vérifiez la version du logiciel et la configuration NVMe

Étape 3 : Configurer NVMe/FC et NVMe/TCP

Étape 4 : Activez éventuellement 1 Mo d'E/S pour NVMe/FC

Étape 5 : Valider NVMe-oF

Étape 6 : passez en revue les problèmes connus