Configurez l'initiateur NVMe sur RoCE sur l'hôte dans E-Series - Linux
La configuration de l'initiateur NVMe dans un environnement RoCE inclut l'installation et la configuration des packages rdma-core et nvme-cli, la configuration des adresses IP des initiateurs et la configuration de la couche NVMe-of sur l'hôte.
Vous devez utiliser la dernière version compatible de RHEL 9, RHEL 10, SLES 15 ou SLES 16 service pack. Consultez la "Matrice d'interopérabilité NetApp" pour obtenir la liste complète des dernières exigences.
-
Installez les packages rdma et nvme-cli :
SLES 15 ou SLES 16
# zypper install rdma-core # zypper install nvme-cli
RHEL 9 et RHEL 10
# yum install rdma-core # yum install nvme-cli
|
|
Si vous utilisez une NVIDIA HCA et souhaitez utiliser le pilote DOCA externe, veuillez consulter la "Documentation NVIDIA DOCA" pour obtenir des informations sur la manière de l’installer correctement dans cet environnement. |
-
Pour RHEL 9, installez les scripts réseau :
RHEL 9
# yum install NetworkManager-initscripts-updown
Les scripts réseau ne sont pas disponibles pour RHEL 10. -
Procurez-vous le NQN hôte, qui sera utilisé pour configurer l'hôte sur une matrice.
# cat /etc/nvme/hostnqn
-
Configurez les adresses IP IPv4 sur les ports ethernet utilisés pour connecter NVMe over RoCE. Pour chaque interface réseau, créez un script de configuration qui contient les différentes variables de cette interface.
Les variables utilisées à cette étape sont basées sur le matériel serveur et l'environnement réseau. Les variables incluent le
IPADDRetGATEWAY. Voici des exemples d'instructions pour SLES et RHEL :SLES 15
Créez le fichier d'exemple
/etc/sysconfig/network/ifcfg-eth4avec le contenu suivant, où MTU est défini sur la valeur la plus élevée qui puisse être atteinte sans fragmentation des paquets (généralement 9000).BOOTPROTO='static' BROADCAST= ETHTOOL_OPTIONS= IPADDR='192.168.1.87/24' GATEWAY='192.168.1.1' MTU=9000 NAME='MT27800 Family [ConnectX-5]' NETWORK= REMOTE_IPADDR= STARTMODE='auto'
Créez ensuite le fichier exemple
/etc/sysconfig/network/ifcfg-eth5:BOOTPROTO='static' BROADCAST= ETHTOOL_OPTIONS= IPADDR='192.168.2.87/24' GATEWAY='192.168.2.1' MTU=9000 NAME='MT27800 Family [ConnectX-5]' NETWORK= REMOTE_IPADDR= STARTMODE='auto'
RHEL 9, RHEL 10 ou SLES 16
Utilisez le
nmtuioutil permettant d'activer et de modifier une connexion. Voici un exemple de fichier/etc/NetworkManager/system-connections/eth4.nmconnectionl'outil génère :[connection] id=eth4 uuid=<unique uuid> type=ethernet interface-name=eth4 [ethernet] mtu=9000 [ipv4] address1=192.168.1.87/24 method=manual [ipv6] addr-gen-mode=default method=auto [proxy]
Voici un exemple de fichier
/etc/NetworkManager/system-connections/eth5.nmconnectionl'outil génère :[connection] id=eth5 uuid=<unique uuid> type=ethernet interface-name=eth5 [ethernet] mtu=9000 [ipv4] address1=192.168.2.87/24 method=manual [ipv6] addr-gen-mode=default method=auto [proxy]
-
Activez les interfaces réseau :
# nmcli connection up eth4 # nmcli connection up eth5
-
Configurez la couche NVMe-of sur l'hôte. Créez le fichier suivant sous
/etc/modules-load.d/pour charger lenvme_rdmamodule noyau et assurez-vous que le module noyau sera toujours activé, même après un redémarrage :# cat /etc/modules-load.d/nvme_rdma.conf nvme_rdma
-
Redémarrez l'hôte.
-
Vous pouvez également charger le
nvme_rdmanoyau sans redémarrer en exécutant cette commande :# modeprobe nvme_rdma
-
-
Vérifiez que le
nvme_rdmamodule noyau est chargé, exécutez cette commande :# lsmod | grep nvme nvme_rdma 36864 0 nvme_fabrics 24576 1 nvme_rdma nvme_core 114688 5 nvme_rdma,nvme_fabrics rdma_cm 114688 7 rpcrdma,ib_srpt,ib_srp,nvme_rdma,ib_iser,ib_isert,rdma_ucm ib_core 393216 15 rdma_cm,ib_ipoib,rpcrdma,ib_srpt,ib_srp,nvme_rdma,iw_cm,ib_iser,ib_umad,ib_isert,rdma_ucm,ib_uverbs,mlx5_ib,qedr,ib_cm t10_pi 16384 2 sd_mod,nvme_core
Et la suite ?Après avoir configuré l'initiateur NVMe sur RoCE sur l'hôte, "configurer les paramètres du port NVMe sur RoCE".