La version française est une traduction automatique. La version anglaise prévaut sur la française en cas de divergence.

Configurer RHEL 8.10 pour NVMe-oF avec le stockage ONTAP

10/08/2025 Contributeurs

Les hôtes Red Hat Enterprise Linux (RHEL) prennent en charge les protocoles NVMe over Fibre Channel (NVMe/FC) et NVMe over TCP (NVMe/TCP) avec Asymmetric Namespace Access (ANA). ANA fournit une fonctionnalité de multi-accès équivalente à l'accès aux unités logiques asymétriques (ALUA) dans les environnements iSCSI et FCP.

Découvrez comment configurer les hôtes NVMe over Fabrics (NVMe-oF) pour RHEL 8.10. Pour plus d'informations sur l'assistance et les fonctionnalités, consultez"Présentation de NVME-oF" .

NVMe-oF avec RHEL 8.10 présente les limitations connues suivantes :

Le démarrage SAN à l'aide du protocole NVMe-oF n'est actuellement pas pris en charge.
Le multipath NVMe dans le noyau est désactivé par défaut sur les hôtes NVMe-oF dans RHEL 8.10 ; vous devez l'activer manuellement.
NVMe/TCP est disponible en tant qu'aperçu technologique en raison de problèmes connus.

Étape 1 : activez éventuellement le démarrage SAN

Vous pouvez configurer votre hôte pour utiliser le démarrage SAN afin de simplifier le déploiement et d’améliorer l’évolutivité. Utilisez le"Matrice d'interopérabilité" pour vérifier que votre système d'exploitation Linux, votre adaptateur de bus hôte (HBA), votre micrologiciel HBA, votre BIOS de démarrage HBA et votre version ONTAP prennent en charge le démarrage SAN.

Étapes

"Créez un espace de noms NVMe et mappez-le à l'hôte" .
Activez le démarrage SAN dans le BIOS du serveur pour les ports auxquels l'espace de noms de démarrage SAN est mappé.

Pour plus d'informations sur l'activation du BIOS HBA, reportez-vous à la documentation spécifique au fournisseur.
Redémarrez l’hôte et vérifiez que le système d’exploitation est opérationnel.

Étape 2 : Vérifiez la version du logiciel et la configuration NVMe

Vérifiez que votre système répond aux exigences logicielles et vérifiez les installations des packages NVMe et la configuration de l’hôte.

Étapes

Installez RHEL 8.10 sur le serveur. Une fois l'installation terminée, vérifiez que vous exécutez le noyau RHEL 8.10 requis :
```
uname -r
```
Exemple de version du noyau RHEL :
```
4.18.0-553.el8_10.x86_64
```
Installer le nvme-cli groupe :
```
rpm -qa|grep nvme-cli
```
L'exemple suivant montre une version de package nvme-cli :
```
nvme-cli-1.16-9.el8.x86_64
```
Installer le libnvme groupe :
```
rpm -qa|grep libnvme
```
L'exemple suivant montre une version de package libnvme :
```
libnvme-1.4-3.el8.x86_64
```

Activer le multichemin NVMe dans le noyau :

grubby --args=nvme_core.multipath=Y --update-kernel /boot/vmlinuz-4.18.0-553.el8_10.x86_64

Sur l'hôte RHEL 8.10, vérifiez le hostnqn chaîne à /etc/nvme/hostnqn :
```
cat /etc/nvme/hostnqn
```
L'exemple suivant montre un hostnqn version:
```
nqn.2014-08.org.nvmexpress:uuid:4c4c4544-0032-3410-8035-b8c04f4c5132
```

Vérifiez que le hostnqn la chaîne correspond à la hostnqn chaîne pour le sous-système correspondant sur le système de stockage ONTAP :

::> vserver nvme subsystem host show -vserver vs_fcnvme_141

Montrer l'exemple

Vserver     Subsystem          Host NQN
----------- --------------- ----------------------------------------------------------
vs_25_2742   rhel_101_QLe2772    nqn.2014-08.org.nvmexpress:uuid:546399fc-160f-11e5-89aa-98be942440ca

Si le hostnqn les chaînes ne correspondent pas, utilisez le vserver modify commande pour mettre à jour le hostnqn chaîne sur votre sous-système de stockage ONTAP correspondant pour correspondre à la hostnqn chaîne de /etc/nvme/hostnqn sur l'hôte.

Redémarrez l'hôte.

Pour exécuter le trafic NVMe et SCSI sur le même hôte, NetApp recommande d'utiliser le multipath NVMe intégré au noyau pour les espaces de noms ONTAP et dm-multipath pour les LUN ONTAP . Pour empêcher dm-multipath de revendiquer des périphériques d'espace de noms ONTAP , excluez-les en ajoutant le enable_foreign réglage à la /etc/multipath.conf déposer:

cat /etc/multipath.conf
defaults {
        enable_foreign     NONE
}

Étape 3 : Configurer NVMe/FC et NVMe/TCP

Configurez NVMe/FC avec des adaptateurs Broadcom/Emulex ou Marvell/QLogic, ou configurez NVMe/TCP à l'aide d'opérations de découverte et de connexion manuelles.

FC - Broadcom/Emulex

Configuration de NVMe/FC pour une carte Broadcom/Emulex

Étapes

Vérifiez que vous utilisez le modèle d'adaptateur pris en charge :
1. Afficher les noms des modèles :
  cat /sys/class/scsi_host/host*/modelname
  Vous devriez voir le résultat suivant :
  LPe32002-M2 LPe32002-M2
2. Afficher les descriptions des modèles :
  cat /sys/class/scsi_host/host*/modeldesc
  Vous devriez voir un résultat similaire à l’exemple suivant :
```
Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter
Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter
```
Vérifiez que vous utilisez la carte Broadcom recommandée lpfc micrologiciel et pilote de boîte de réception :
1. Afficher la version du firmware :
  cat /sys/class/scsi_host/host*/fwrev
  La commande renvoie les versions du firmware :
  14.2.539.21, sli-4:2:c 14.2.539.21, sli-4:2:c
2. Afficher la version du pilote de la boîte de réception :
  cat /sys/module/lpfc/version
  L'exemple suivant montre une version de pilote :
  0:14.0.0.21
Pour obtenir la liste actuelle des versions de pilotes et de micrologiciels de carte prises en charge, consultez le "Matrice d'interopérabilité".

Vérifiez-le lpfc_enable_fc4_type est défini sur 3:

cat /sys/module/lpfc/parameters/lpfc_enable_fc4_type

Vérifiez que vous pouvez afficher vos ports initiateurs :
```
cat /sys/class/fc_host/host*/port_name
```
Vous devriez voir un résultat similaire à :
```
0x10000090fae0ec88
0x10000090fae0ec89
```
Vérifiez que vos ports initiateurs sont en ligne :
```
cat /sys/class/fc_host/host*/port_state
```
Vous devriez voir le résultat suivant :
```
Online
Online
```

Vérifiez que les ports initiateurs NVMe/FC sont activés et que les ports cibles sont visibles :

cat /sys/class/scsi_host/host*/nvme_info

Montrer l'exemple

NVME Initiator Enabled
XRI Dist lpfc0 Total 6144 IO 5894 ELS 250
NVME LPORT lpfc0 WWPN x100000109bf044b1 WWNN x200000109bf044b1 DID x022a00 ONLINE
NVME RPORT       WWPN x211ad039eaa7dfc8 WWNN x2119d039eaa7dfc8 DID x021302 TARGET DISCSRVC ONLINE
NVME RPORT       WWPN x211cd039eaa7dfc8 WWNN x2119d039eaa7dfc8 DID x020b02 TARGET DISCSRVC ONLINE

NVME Statistics
LS: Xmt 00000001ff Cmpl 00000001ff Abort 00000000
LS XMIT: Err 00000000  CMPL: xb 00000000 Err 00000000
Total FCP Cmpl 0000000001330ec7 Issue 0000000001330ec9 OutIO 0000000000000002
        abort 00000330 noxri 00000000 nondlp 0000000b qdepth 00000000 wqerr 00000000 err 00000000
FCP CMPL: xb 00000354 Err 00000361

NVME Initiator Enabled
XRI Dist lpfc1 Total 6144 IO 5894 ELS 250
NVME LPORT lpfc1 WWPN x100000109bf044b2 WWNN x200000109bf044b2 DID x021b00 ONLINE
NVME RPORT       WWPN x211bd039eaa7dfc8 WWNN x2119d039eaa7dfc8 DID x022902 TARGET DISCSRVC ONLINE
NVME RPORT       WWPN x211dd039eaa7dfc8 WWNN x2119d039eaa7dfc8 DID x020102 TARGET DISCSRVC ONLINE

NVME Statistics
LS: Xmt 00000001ff Cmpl 00000001ff Abort 00000000
LS XMIT: Err 00000000  CMPL: xb 00000000 Err 00000000
Total FCP Cmpl 00000000012ec220 Issue 00000000012ec222 OutIO 0000000000000002
        abort 0000033b noxri 00000000 nondlp 00000085 qdepth 00000000 wqerr 00000000 err 00000000
FCP CMPL: xb 00000368 Err 00000382

FC - Marvell/QLogic

Configuration du NVMe/FC pour un adaptateur Marvell/QLogic

Étapes

Vérifiez que vous utilisez les versions de pilote d'adaptateur et de micrologiciel prises en charge :
```
cat /sys/class/fc_host/host*/symbolic_name
```
L'exemple suivant montre les versions du pilote et du micrologiciel :
```
QLE2742 FW: v9.10.11 DVR: v10.02.08.200-k
QLE2742 FW: v9.10.11 DVR: v10.02.08.200-k
```
Vérifiez-le ql2xnvmeenable est défini. L'adaptateur Marvell peut ainsi fonctionner en tant qu'initiateur NVMe/FC :
```
cat /sys/module/qla2xxx/parameters/ql2xnvmeenable
```
La sortie attendue est 1.

TCP

Le protocole NVMe/TCP ne prend pas en charge l'opération de connexion automatique. Au lieu de cela, vous pouvez découvrir les sous-systèmes et espaces de noms NVMe/TCP en exécutant l'opération NVMe/TCP. connect ou connect-all opérations manuellement.

Étapes

Vérifiez que le port initiateur peut obtenir les données de la page du journal de découverte sur les LIF NVMe/TCP pris en charge :

nvme discover -t tcp -w host-traddr -a traddr

Montrer l'exemple

nvme discover -t tcp -w 192.168.2.31 -a 192.168.2.25

Discovery Log Number of Records 8, Generation counter 18
=====Discovery Log Entry 0======
trtype:  tcp
adrfam:  ipv4
subtype: unrecognized
treq:    not specified.
portid:  0
trsvcid: 8009
subnqn:  nqn.1992-08.com.netapp:sn.a1b2b785b9de11ee8e7fd039ea9e8ae9:discovery
traddr:  192.168.1.25
sectype: none
=====Discovery Log Entry 1======
trtype:  tcp
adrfam:  ipv4
subtype: unrecognized
treq:    not specified.
portid:  1
trsvcid: 8009
subnqn:  nqn.1992-08.com.netapp:sn.a1b2b785b9de11ee8e7fd039ea9e8ae9:discovery
traddr:  192.168.2.26
sectype: none

Vérifier que les autres combinaisons de LIF cible-initiateur NVMe/TCP peuvent récupérer les données de la page du journal de détection :

nvme discover -t tcp -w host-traddr -a traddr

Montrer l'exemple

nvme  discover  -t  tcp  -w 192.168.2.31  -a 192.168.2.25
nvme  discover  -t  tcp  -w 192.168.1.31  -a 192.168.1.24
nvme  discover  -t  tcp  -w 192.168.2.31  -a 192.168.2.26
nvme  discover  -t  tcp  -w 192.168.1.31  -a 192.168.1.25

Exécutez le nvme connect-all Commande sur toutes les LIF cible-initiateur NVMe/TCP prises en charge sur l'ensemble des nœuds :

nvme connect-all -t tcp -w host-traddr -a traddr

Montrer l'exemple

nvme connect-all -t tcp -w 192.168.2.31 -a 192.168.2.25 -l 1800
nvme connect-all -t tcp -w 192.168.1.31 -a 192.168.1.24 -l 1800
nvme connect-all -t tcp -w 192.168.2.31 -a 192.168.2.26 -l 1800
nvme connect-all -t tcp -w 192.168.1.31 -a 192.168.1.25 -l 1800

Étape 4 : Activez éventuellement 1 Mo d'E/S pour NVMe/FC

ONTAP signale une taille de transfert de données maximale (MDTS) de 8 dans les données du contrôleur d'identification. Cela signifie que la taille maximale de la demande d'E/S peut atteindre 1 Mo. Pour émettre des requêtes d'E/S d'une taille de 1 Mo pour un hôte Broadcom NVMe/FC, vous devez augmenter la lpfc valeur de la lpfc_sg_seg_cnt paramètre à 256 à partir de la valeur par défaut de 64.

Ces étapes ne s'appliquent pas aux hôtes NVMe/FC Qlogic.

Étapes

Réglez le lpfc_sg_seg_cnt paramètre sur 256 :
```
cat /etc/modprobe.d/lpfc.conf
```
Vous devriez voir une sortie similaire à l’exemple suivant :
```
options lpfc lpfc_sg_seg_cnt=256
```
Exécutez dracut -f la commande et redémarrez l'hôte.
Vérifier que la valeur de lpfc_sg_seg_cnt est 256 :
```
cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt
```

Étape 5 : Valider NVMe-oF

Vérifiez que l'état des chemins d'accès multiples NVMe in-kernel, l'état ANA et les namespaces ONTAP sont corrects pour la configuration NVMe-of.

Étapes

Vérifiez que le chemin d'accès multiples NVMe intégré au noyau est activé :
```
cat /sys/module/nvme_core/parameters/multipath
```
Vous devriez voir le résultat suivant :
```
Y
```
Vérifiez que les paramètres NVMe-of appropriés (par exemple, modèle défini sur contrôleur NetApp ONTAP et iopole d'équilibrage de la charge sur round-Robin) pour les espaces de noms ONTAP respectifs reflètent correctement l'hôte :
1. Afficher les sous-systèmes :
  cat /sys/class/nvme-subsystem/nvme-subsys*/model
  Vous devriez voir le résultat suivant :
  NetApp ONTAP Controller NetApp ONTAP Controller
2. Afficher la politique :
  cat /sys/class/nvme-subsystem/nvme-subsys*/iopolicy
  Vous devriez voir le résultat suivant :
```
round-robin
round-robin
```

Vérifiez que les espaces de noms sont créés et correctement découverts sur l'hôte :

nvme list

Montrer l'exemple

Node         SN                   Model
---------------------------------------------------------
/dev/nvme4n1 81Ix2BVuekWcAAAAAAAB	NetApp ONTAP Controller


Namespace Usage    Format             FW             Rev
-----------------------------------------------------------
1                 21.47 GB / 21.47 GB	4 KiB + 0 B   FFFFFFFF

Vérifiez que l'état du contrôleur de chaque chemin est actif et que l'état ANA est correct :

NVMe/FC

nvme list-subsys /dev/nvme0n1

Montrer l'exemple

nvme-subsys0 - NQN=nqn.1992-08.com.netapp:sn.0cd9ee0dc0ec11ee8e7fd039ea9e8ae9:subsystem.nvme
\
 +- nvme1 fc traddr=nn-0x2005d039eaa7dfc8:pn-0x2086d039eaa7dfc8 host_traddr=nn-0x20000024ff752e6d:pn-0x21000024ff752e6d live non-optimized
 +- nvme2 fc traddr=nn-0x2005d039eaa7dfc8:pn-0x2016d039eaa7dfc8 host_traddr=nn-0x20000024ff752e6c:pn-0x21000024ff752e6c live optimized
 +- nvme3 fc traddr=nn-0x2005d039eaa7dfc8:pn-0x2081d039eaa7dfc8 host_traddr=nn-0x20000024ff752e6c:pn-0x21000024ff752e6c live non-optimized
 +- nvme4 fc traddr=nn-0x2005d039eaa7dfc8:pn-0x2087d039eaa7dfc8 host_traddr=nn-0x20000024ff752e6d:pn-0x21000024ff752e6d live optimized

NVMe/TCP

nvme list-subsys /dev/nvme0n1

Montrer l'exemple

nvme-subsys0 - NQN=nqn.1992-08.com.netapp:sn.a1b2b785b9de11ee8e7fd039ea9e8ae9:subsystem.nvme_tcp_1
\
 +- nvme0 tcp traddr=192.168.2.26 trsvcid=4420 host_traddr=192.168.2.31 live non-optimized
 +- nvme1 tcp traddr=192.168.2.25 trsvcid=4420 host_traddr=192.168.2.31 live optimized
 +- nvme2 tcp traddr=192.168.1.25 trsvcid=4420 host_traddr=192.168.1.31 live non-optimized
 +- nvme3 tcp traddr=192.168.1.24 trsvcid=4420 host_traddr=192.168.1.31 live optimized

Vérifier que le plug-in NetApp affiche les valeurs correctes pour chaque périphérique d'espace de noms ONTAP :

Colonne

nvme netapp ontapdevices -o column

Montrer l'exemple

Device        Vserver       Namespace Path
-----------------------------------------------------
/dev/nvme0n1  tcpiscsi_129  /vol/tcpnvme_1_0_0/tcpnvme_ns



NSID       UUID                                   Size
------------------------------------------------------------
1          05c2c351-5d7f-41d7-9bd8-1a56c	        21.47GB

JSON

nvme netapp ontapdevices -o json

Montrer l'exemple

{
  "ONTAPdevices": [
    {
      "Device": "/dev/nvme0n1",
      "Vserver": "tcpiscsi_129",
      "Namespace Path”: /vol/tcpnvme_1_0_0/tcpnvme_ns ",
      "NSID": 1,
      "UUID": " 05c2c351-5d7f-41d7-9bd8-1a56c160c80b ",
      "Size2: "21.47GB",
      "LBA_Data_Size": 4096,
      "Namespace Size" : 5242880
    },
  ]
}

Étape 6 : passez en revue les problèmes connus

Voici les problèmes connus :

ID de bug NetApp	Titre	Description
"1479047"	Les hôtes RHEL 8.10 NVMe-oF créent des contrôleurs de découverte persistants (PDC) en double	Sur les hôtes NVMe-oF, vous pouvez utiliser la commande « nvme discover -p » pour créer des PDC. Lorsque cette commande est utilisée, un seul PDC doit être créé par combinaison initiateur-cible. Cependant, si vous exécutez RHEL 8.10 sur un hôte NVMe-oF, un PDC en double est créé chaque fois que « nvme discover -p » est exécuté. Cela conduit à une utilisation inutile des ressources à la fois sur l’hôte et sur la cible.

ID de bug NetApp

Titre

Description

"1479047"

Les hôtes RHEL 8.10 NVMe-oF créent des contrôleurs de découverte persistants (PDC) en double

Sur les hôtes NVMe-oF, vous pouvez utiliser la commande « nvme discover -p » pour créer des PDC. Lorsque cette commande est utilisée, un seul PDC doit être créé par combinaison initiateur-cible. Cependant, si vous exécutez RHEL 8.10 sur un hôte NVMe-oF, un PDC en double est créé chaque fois que « nvme discover -p » est exécuté. Cela conduit à une utilisation inutile des ressources à la fois sur l’hôte et sur la cible.

Configurer RHEL 8.10 pour NVMe-oF avec le stockage ONTAP

Creating your file...

Étape 1 : activez éventuellement le démarrage SAN

Étape 2 : Vérifiez la version du logiciel et la configuration NVMe

Étape 3 : Configurer NVMe/FC et NVMe/TCP

Étape 4 : Activez éventuellement 1 Mo d'E/S pour NVMe/FC

Étape 5 : Valider NVMe-oF

Étape 6 : passez en revue les problèmes connus