Configuration hôte NVMe/FC pour SUSE Linux Enterprise Server 15 SP1 avec ONTAP
Vous pouvez configurer NVMe over Fibre Channel (NVMe/FC) sur des hôtes exécutant SUSE Linux Enterprise Server 15 SP1 et ONTAP comme cible.
NVMe/FC est pris en charge sur ONTAP 9.6 ou version ultérieure pour les versions suivantes de SUSE Linux Enterprise Server :
-
SUSE Linux Enterprise Server 15 SP1
L'hôte SUSE Linux Enterprise Server 15 SP1 peut exécuter le trafic NVMe/FC et FCP via les mêmes ports d'adaptateur d'initiateur Fibre Channel. Consultez la "Hardware Universe" pour obtenir la liste des adaptateurs et contrôleurs FC pris en charge.
Pour obtenir la liste la plus récente des configurations et versions prises en charge, consultez le "Matrice d'interopérabilité NetApp".
-
Les scripts natifs de connexion automatique NVMe/FC sont inclus dans le pack nvme-cli. Vous pouvez utiliser le pilote natif inbox lpfc sur SUSE Linux Enterprise Server 15 SP1.
Limites connues
Le démarrage SAN à l'aide du protocole NVMe-of n'est pas pris en charge pour le moment.
Activez NVMe/FC sur SUSE Linux Enterprise Server 15 SP1
-
Effectuez la mise à niveau vers le noyau MU recommandé de SUSE Linux Enterprise Server 15 SP2
-
Effectuez une mise à niveau vers la version d'UM nvme-cli recommandée.
Ce package nvme-cli contient les scripts natifs de connexion automatique NVMe/FC. Vous n'avez donc pas besoin d'installer les scripts externes de connexion automatique NVMe/FC fournis par Broadcom sur l'hôte SUSE Linux Enterprise Server 15 SP1. Ce pack inclut également la règle ONTAP udev qui permet d'équilibrer la charge Round-Robin pour les chemins d'accès multiples NVMe, ainsi que le plug-in NetApp pour les terminaux ONTAP.
# rpm -qa | grep nvme-cli nvme-cli-1.8.1-6.9.1.x86_64
-
Sur l'hôte SUSE Linux Enterprise Server 15 SP1, vérifiez la chaîne NQN de l'hôte à
/etc/nvme/hostnqn
et vérifiez qu'elle correspond à la chaîne NQN de l'hôte pour le sous-système correspondant sur la baie ONTAP. Par exemple :# cat /etc/nvme/hostnqn nqn.2014-08.org.nvmexpress:uuid:75953f3b-77fe-4e03-bf3c-09d5a156fbcd
*> vserver nvme subsystem host show -vserver vs_nvme_10 Vserver Subsystem Host NQN ------- --------- -------------------------------------- ----------- sles_117_nvme_ss_10_0 nqn.2014-08.org.nvmexpress:uuid:75953f3b-77fe-4e03-bf3c-09d5a156fbcd
-
Redémarrez l'hôte.
Configurez la carte Broadcom FC pour NVMe/FC
-
Vérifiez que vous utilisez la carte prise en charge. Pour consulter la liste la plus récente des cartes prises en charge, reportez-vous à la section "Matrice d'interopérabilité NetApp".
# cat /sys/class/scsi_host/host*/modelname LPe32002-M2 LPe32002-M2
# cat /sys/class/scsi_host/host*/modeldesc Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter
-
Vérifiez que vous utilisez les versions recommandées du micrologiciel Lpfc Broadcom et du pilote natif de la boîte de réception.
# cat /sys/class/scsi_host/host*/fwrev 12.4.243.17, sil-4.2.c 12.4.243.17, sil-4.2.c
# cat /sys/module/lpfc/version 0:12.6.0.0
-
Vérifiez que lpfc_enable_fc4_type est défini sur 3.
# cat /sys/module/lpfc/parameters/lpfc_enable_fc4_type 3
-
Vérifiez que les ports initiateurs sont opérationnels.
# cat /sys/class/fc_host/host*/port_name 0x10000090fae0ec61 0x10000090fae0ec62
# cat /sys/class/fc_host/host*/port_state Online Online
-
Vérifiez que les ports initiateurs NVMe/FC sont activés, s'exécutant et qu'ils peuvent voir les LIF cibles.
# cat /sys/class/scsi_host/host*/nvme_info NVME Initiator Enabled XRI Dist lpfc0 Total 6144 NVME 2947 SCSI 2977 ELS 250 NVME LPORT lpfc0 WWPN x10000090fae0ec61 WWNN x20000090fae0ec61 DID x012000 ONLINE NVME RPORT WWPN x202d00a098c80f09 WWNN x202c00a098c80f09 DID x010201 TARGET DISCSRVC ONLINE NVME RPORT WWPN x203100a098c80f09 WWNN x202c00a098c80f09 DID x010601 TARGET DISCSRVC ONLINE NVME Statistics …
Validation de la spécification NVMe/FC
-
Vérifiez les paramètres NVMe/FC suivants.
# cat /sys/module/nvme_core/parameters/multipath Y
# cat /sys/class/nvme-subsystem/nvme-subsys*/model NetApp ONTAP Controller NetApp ONTAP Controller
# cat /sys/class/nvme-subsystem/nvme-subsys*/iopolicy round-robin round-robin
-
Vérifier que les espaces de noms sont créés.
# nvme list Node SN Model Namespace Usage Format FW Rev ---------------- -------------------- ----------------------- /dev/nvme0n1 80BADBKnB/JvAAAAAAAC NetApp ONTAP Controller 1 53.69 GB / 53.69 GB 4 KiB + 0 B FFFFFFFF
-
Vérifiez le statut des chemins ANA.
# nvme list-subsys/dev/nvme0n1 Nvme-subsysf0 – NQN=nqn.1992-08.com.netapp:sn.341541339b9511e8a9b500a098c80f09:subsystem.sles_117_nvme_ss_10_0 \ +- nvme0 fc traddr=nn-0x202c00a098c80f09:pn-0x202d00a098c80f09 host_traddr=nn-0x20000090fae0ec61:pn-0x10000090fae0ec61 live optimized +- nvme1 fc traddr=nn-0x207300a098dfdd91:pn-0x207600a098dfdd91 host_traddr=nn-0x200000109b1c1204:pn-0x100000109b1c1204 live inaccessible +- nvme2 fc traddr=nn-0x207300a098dfdd91:pn-0x207500a098dfdd91 host_traddr=nn-0x200000109b1c1205:pn-0x100000109b1c1205 live optimized +- nvme3 fc traddr=nn-0x207300a098dfdd91:pn-0x207700a098dfdd91 host traddr=nn-0x200000109b1c1205:pn-0x100000109b1c1205 live inaccessible
-
Vérifier le plug-in NetApp pour les systèmes ONTAP.
# nvme netapp ontapdevices -o column Device Vserver Namespace Path NSID UUID Size ------- -------- ------------------------- ------ ----- ----- /dev/nvme0n1 vs_nvme_10 /vol/sles_117_vol_10_0/sles_117_ns_10_0 1 55baf453-f629-4a18-9364-b6aee3f50dad 53.69GB # nvme netapp ontapdevices -o json { "ONTAPdevices" : [ { Device" : "/dev/nvme0n1", "Vserver" : "vs_nvme_10", "Namespace_Path" : "/vol/sles_117_vol_10_0/sles_117_ns_10_0", "NSID" : 1, "UUID" : "55baf453-f629-4a18-9364-b6aee3f50dad", "Size" : "53.69GB", "LBA_Data_Size" : 4096, "Namespace_Size" : 13107200 } ]
Problèmes connus
Il n'y a pas de problème connu.
Activez la taille d'E/S 1 Mo pour Broadcom NVMe/FC
ONTAP signale une taille de transfert MAX Data (MDT) de 8 dans les données Identify Controller. La taille maximale des demandes d'E/S peut donc atteindre 1 Mo. Pour émettre des demandes d'E/S d'une taille de 1 Mo pour un hôte Broadcom NVMe/FC, augmentez la lpfc
valeur du lpfc_sg_seg_cnt
paramètre à 256 par rapport à la valeur par défaut 64.
Ces étapes ne s'appliquent pas aux hôtes NVMe/FC Qlogic. |
-
Réglez le
lpfc_sg_seg_cnt
paramètre sur 256 :cat /etc/modprobe.d/lpfc.conf
options lpfc lpfc_sg_seg_cnt=256
-
Exécutez
dracut -f
la commande et redémarrez l'hôte. -
Vérifier que la valeur attendue de
lpfc_sg_seg_cnt
est 256 :cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt
Journal Verbose LPFC
Définissez le pilote lpfc pour NVMe/FC.
-
Réglez le
lpfc_log_verbose
Paramètre du pilote sur l'une des valeurs suivantes pour enregistrer les événements NVMe/FC.#define LOG_NVME 0x00100000 /* NVME general events. */ #define LOG_NVME_DISC 0x00200000 /* NVME Discovery/Connect events. */ #define LOG_NVME_ABTS 0x00400000 /* NVME ABTS events. */ #define LOG_NVME_IOERR 0x00800000 /* NVME IO Error events. */
-
Une fois les valeurs définies, exécutez le
dracut-f
commande et redémarre l'hôte. -
Vérifiez les paramètres.
# cat /etc/modprobe.d/lpfc.conf options lpfc lpfc_log_verbose=0xf00083 # cat /sys/module/lpfc/parameters/lpfc_log_verbose 15728771