Migrez vers un cluster à deux nœuds avec commutateurs de cluster NVIDIA SN2100
Si vous disposez déjà d'un environnement en cluster sans commutateur à deux nœuds, vous pouvez migrer vers un environnement de cluster avec commutateur à deux nœuds à l'aide de commutateurs NVIDIA SN2100, ce qui vous permet d'évoluer au-delà de deux nœuds du cluster.
La procédure que vous utilisez dépend de votre présence de deux ports cluster-network dédiés sur chaque contrôleur ou d'un port de cluster unique sur chaque contrôleur. Le processus documenté fonctionne pour tous les nœuds utilisant des ports optiques ou Twinax, mais il n'est pas pris en charge sur ce commutateur si les nœuds utilisent des ports RJ45 10GBASE-T intégrés pour les ports cluster-network.
Examen des conditions requises
Assurez-vous que :
-
La configuration sans commutateur à 2 nœuds est correctement configurée et fonctionnelle.
-
Les nœuds exécutent ONTAP 9.10.1P3 et version ultérieure.
-
Tous les ports de cluster sont à l'état up.
-
Toutes les interfaces logiques (LIF) de cluster sont à l'état up et sur leurs ports de base.
Assurez-vous que :
-
Les deux commutateurs disposent d'une connectivité réseau de gestion.
-
Il y a un accès à la console aux commutateurs du cluster.
-
Les connexions de nœud à nœud NVIDIA SN2100 et de commutateur à commutateur utilisent des câbles Twinax ou fibre optique.
Voir "Examinez les considérations relatives au câblage et à la configuration" pour mises en garde et autres détails. Le "Hardware Universe - commutateurs" contient également plus d'informations sur le câblage. -
Les câbles ISL (Inter-Switch Link) sont connectés aux ports swp15 et swp16 sur les deux commutateurs NVIDIA SN2100.
-
La personnalisation initiale des deux commutateurs SN2100 est terminée, de sorte que :
-
Les commutateurs SN2100 exécutent la dernière version de Cumulus Linux
-
Les fichiers de configuration de référence (RCFs) sont appliqués aux commutateurs
-
Toute personnalisation de site, telle que SMTP, SNMP et SSH, est configurée sur les nouveaux commutateurs.
Le "Hardware Universe" contient les informations les plus récentes sur les ports de cluster réels de vos plates-formes.
-
Migrer les commutateurs
Les exemples de cette procédure utilisent la nomenclature de commutateurs et de nœuds du cluster suivante :
-
Les noms des commutateurs SN2100 sont sw1 et sw2.
-
Les noms des SVM du cluster sont node1 et node2.
-
Les noms des LIFS sont respectivement node1_clude1 et node1_clus2 sur le nœud 1 et node2_clum1 et node2_clum2 sur le nœud 2.
-
Le
cluster1::*>
l'invite indique le nom du cluster. -
Les ports de cluster utilisés dans cette procédure sont e3a et e3b.
-
Les ports de dérivation prennent le format suivant : swp[port]s[port de dérivation 0-3]. Par exemple, quatre ports de dérivation sur swp1 sont swp1s0, swp1s1, swp1s2 et swp13.
Étape 1 : préparer la migration
-
Si AutoSupport est activé sur ce cluster, supprimez la création automatique de dossiers en invoquant un message AutoSupport :
system node autosupport invoke -node * -type all -message MAINT=xh
où x représente la durée de la fenêtre de maintenance en heures.
-
Modifiez le niveau de privilège en avancé, en saisissant
y
lorsque vous êtes invité à continuer :set -privilege advanced
L'invite avancée (
*>
) s'affiche.
Étape 2 : configurer les ports et le câblage
-
Désactivez tous les ports orientés nœuds (et non les ports ISL) sur les nouveaux commutateurs sw1 et sw2 du cluster.
Vous ne devez pas désactiver les ports ISL.
Les commandes suivantes désactivent les ports node-face sur les commutateurs sw1 et sw2 :
cumulus@sw1:~$ net add interface swp1s0-3, swp2s0-3, swp3-14 link down cumulus@sw1:~$ net pending cumulus@sw1:~$ net commit cumulus@sw2:~$ net add interface swp1s0-3, swp2s0-3, swp3-14 link down cumulus@sw2:~$ net pending cumulus@sw2:~$ net commit
-
Vérifier que l'ISL et les ports physiques de l'ISL entre les deux commutateurs SN2100 sw1 et sw2 sont en service sur les ports swp15 et swp16 :
net show interface
Les commandes suivantes montrent que les ports ISL sont activés sur les commutateurs sw1 et sw2 :
cumulus@sw1:~$ net show interface State Name Spd MTU Mode LLDP Summary ----- --------- ---- ----- ---------- ----------- ----------------------- ... ... UP swp15 100G 9216 BondMember sw2 (swp15) Master: cluster_isl(UP) UP swp16 100G 9216 BondMember sw2 (swp16) Master: cluster_isl(UP) cumulus@sw2:~$ net show interface State Name Spd MTU Mode LLDP Summary ----- --------- ---- ----- ---------- ----------- ----------------------- ... ... UP swp15 100G 9216 BondMember sw1 (swp15) Master: cluster_isl(UP) UP swp16 100G 9216 BondMember sw1 (swp16) Master: cluster_isl(UP)
-
Désactivez tous les ports orientés nœuds (et non les ports ISL) sur les deux nouveaux commutateurs sw1 et sw2 du cluster.
Vous ne devez pas désactiver les ports ISL.
Les commandes suivantes désactivent les ports node-face sur les commutateurs sw1 et sw2 :
cumulus@sw1:~$ nv set interface swp1s0-3,swp2s0-3,swp3-14 link state down cumulus@sw1:~$ nv config apply cumulus@sw1:~$ nv save cumulus@sw2:~$ nv set interface swp1s0-3,swp2s0-3,swp3-14 link state down cumulus@sw2:~$ nv config apply cumulus@sw2:~$ nv save
-
Vérifier que l'ISL et les ports physiques de l'ISL entre les deux commutateurs SN2100 sw1 et sw2 sont en service sur les ports swp15 et swp16 :
nv show interface
Les exemples suivants montrent que les ports ISL sont activés sur les commutateurs sw1 et sw2 :
cumulus@sw1:~$ nv show interface Interface MTU Speed State Remote Host Remote Port Type Summary ------------- ------ ----- ------ ------------ ------------------------------------ ------- ------- ... ... + swp14 9216 down swp + swp15 9216 100G up ossg-rcf1 Intra-Cluster Switch ISL Port swp15 swp + swp16 9216 100G up ossg-rcf2 Intra-Cluster Switch ISL Port swp16 swp cumulus@sw2:~$ nv show interface Interface MTU Speed State Remote Host Remote Port Type Summary ------------- ------ ----- ------ ------------ ------------------------------------ ------- ------- ... ... + swp14 9216 down swp + swp15 9216 100G up ossg-rcf1 Intra-Cluster Switch ISL Port swp15 swp + swp16 9216 100G up ossg-rcf2 Intra-Cluster Switch ISL Port swp16 swp
-
Vérifiez que tous les ports du cluster sont en service :
network port show
Chaque port doit s'afficher
up
pourLink
et en bonne santé pourHealth Status
.Montrer l'exemple
cluster1::*> network port show Node: node1 Ignore Speed(Mbps) Health Health Port IPspace Broadcast Domain Link MTU Admin/Oper Status Status --------- ------------ ---------------- ---- ---- ------------ -------- ------ e3a Cluster Cluster up 9000 auto/100000 healthy false e3b Cluster Cluster up 9000 auto/100000 healthy false Node: node2 Ignore Speed(Mbps) Health Health Port IPspace Broadcast Domain Link MTU Admin/Oper Status Status --------- ------------ ---------------- ---- ---- ------------ -------- ------ e3a Cluster Cluster up 9000 auto/100000 healthy false e3b Cluster Cluster up 9000 auto/100000 healthy false
-
Vérifier que toutes les LIFs de cluster sont opérationnelles :
network interface show
Chaque LIF de cluster doit afficher la valeur true pour
Is Home
et avoir unStatus Admin/Oper
deup/up
.Montrer l'exemple
cluster1::*> network interface show -vserver Cluster Logical Status Network Current Current Is Vserver Interface Admin/Oper Address/Mask Node Port Home ----------- ---------- ---------- ------------------ ------------- ------- ----- Cluster node1_clus1 up/up 169.254.209.69/16 node1 e3a true node1_clus2 up/up 169.254.49.125/16 node1 e3b true node2_clus1 up/up 169.254.47.194/16 node2 e3a true node2_clus2 up/up 169.254.19.183/16 node2 e3b true
-
Désactiver la fonction de revert automatique sur les LIFs du cluster :
network interface modify -vserver Cluster -lif * -auto-revert false
Montrer l'exemple
cluster1::*> network interface modify -vserver Cluster -lif * -auto-revert false Logical Vserver Interface Auto-revert --------- ------------- ------------ Cluster node1_clus1 false node1_clus2 false node2_clus1 false node2_clus2 false
-
Débranchez le câble du port du bloc d'instruments e3a sur le nœud1, puis connectez e3a au port 3 du commutateur du bloc d'instruments sw1, à l'aide du câblage approprié pris en charge par les commutateurs SN2100.
Le "Hardware Universe - commutateurs" contient plus d'informations sur le câblage.
-
Débranchez le câble du port du bloc d'instruments e3a sur le nœud2, puis connectez e3a au port 4 du commutateur du bloc d'instruments sw1, à l'aide du câblage approprié pris en charge par les commutateurs SN2100.
-
sur le commutateur sw1, activez tous les ports orientés nœuds.
Les commandes suivantes activent tous les ports orientés nœuds sur le commutateur sw1.
cumulus@sw1:~$ net del interface swp1s0-3, swp2s0-3, swp3-14 link down cumulus@sw1:~$ net pending cumulus@sw1:~$ net commit
-
sur le commutateur sw1, vérifiez que tous les ports sont activés :
net show interface all
cumulus@sw1:~$ net show interface all State Name Spd MTU Mode LLDP Summary ----- --------- ---- ----- ---------- --------------- -------- ... DN swp1s0 10G 9216 Trunk/L2 Master: br_default(UP) DN swp1s1 10G 9216 Trunk/L2 Master: br_default(UP) DN swp1s2 10G 9216 Trunk/L2 Master: br_default(UP) DN swp1s3 10G 9216 Trunk/L2 Master: br_default(UP) DN swp2s0 25G 9216 Trunk/L2 Master: br_default(UP) DN swp2s1 25G 9216 Trunk/L2 Master: br_default(UP) DN swp2s2 25G 9216 Trunk/L2 Master: br_default(UP) DN swp2s3 25G 9216 Trunk/L2 Master: br_default(UP) UP swp3 100G 9216 Trunk/L2 node1 (e3a) Master: br_default(UP) UP swp4 100G 9216 Trunk/L2 node2 (e3a) Master: br_default(UP) ... ... UP swp15 100G 9216 BondMember swp15 Master: cluster_isl(UP) UP swp16 100G 9216 BondMember swp16 Master: cluster_isl(UP) ...
-
sur le commutateur sw1, activez tous les ports orientés nœuds.
Les commandes suivantes activent tous les ports orientés nœuds sur le commutateur sw1.
cumulus@sw1:~$ nv set interface swp1s0-3,swp2s0-3,swp3-14 link state up cumulus@sw1:~$ nv config apply cumulus@sw1:~$ nv config save
-
sur le commutateur sw1, vérifiez que tous les ports sont en service :
nv show interface
cumulus@sw1:~$ nv show interface Interface State Speed MTU Type Remote Host Remote Port Summary ----------- ----- ----- ----- -------- -------------------------- ----------- ---------- ... ... swp1s0 up 10G 9216 swp odq-a300-1a e0a swp1s1 up 10G 9216 swp odq-a300-1b e0a swp1s2 down 10G 9216 swp swp1s3 down 10G 9216 swp swp2s0 down 25G 9216 swp swp2s1 down 25G 9216 swp swp2s2 down 25G 9216 swp swp2s3 down 25G 9216 swp swp3 down 9216 swp swp4 down 9216 swp ... ... swp14 down 9216 swp swp15 up 100G 9216 swp ossg-int-rcf10 swp15 swp16 up 100G 9216 swp ossg-int-rcf10 swp16
-
Vérifiez que tous les ports du cluster sont en service :
network port show -ipspace Cluster
Montrer l'exemple
L'exemple suivant montre que tous les ports du cluster apparaissent sur les nœuds 1 et sur le nœud 2 :
cluster1::*> network port show -ipspace Cluster Node: node1 Ignore Speed(Mbps) Health Health Port IPspace Broadcast Domain Link MTU Admin/Oper Status Status --------- ------------ ---------------- ---- ---- ------------ -------- ------ e3a Cluster Cluster up 9000 auto/100000 healthy false e3b Cluster Cluster up 9000 auto/100000 healthy false Node: node2 Ignore Speed(Mbps) Health Health Port IPspace Broadcast Domain Link MTU Admin/Oper Status Status --------- ------------ ---------------- ---- ---- ------------ -------- ------ e3a Cluster Cluster up 9000 auto/100000 healthy false e3b Cluster Cluster up 9000 auto/100000 healthy false
-
Afficher des informations relatives à l'état des nœuds du cluster :
cluster show
Montrer l'exemple
L'exemple suivant affiche des informations sur la santé et l'éligibilité des nœuds du cluster :
cluster1::*> cluster show Node Health Eligibility Epsilon -------------------- ------- ------------ ------------ node1 true true false node2 true true false
-
Déconnectez le câble du port du cluster e3b sur le nœud1, puis connectez e3b au port 3 du commutateur sw2 du cluster, en utilisant le câblage approprié pris en charge par les commutateurs SN2100.
-
Déconnectez le câble du port du cluster e3b sur le nœud2, puis connectez e3b au port 4 du commutateur sw2 du cluster, en utilisant le câblage approprié pris en charge par les commutateurs SN2100.
-
sur le commutateur sw2, activez tous les ports orientés nœuds.
Les commandes suivantes permettent d'activer les ports orientés nœud sur le commutateur sw2 :
cumulus@sw2:~$ net del interface swp1s0-3, swp2s0-3, swp3-14 link down cumulus@sw2:~$ net pending cumulus@sw2:~$ net commit
-
sur le commutateur sw2, vérifiez que tous les ports sont en service :
net show interface all
cumulus@sw2:~$ net show interface all State Name Spd MTU Mode LLDP Summary ----- --------- ---- ----- ---------- --------------- -------- ... DN swp1s0 10G 9216 Trunk/L2 Master: br_default(UP) DN swp1s1 10G 9216 Trunk/L2 Master: br_default(UP) DN swp1s2 10G 9216 Trunk/L2 Master: br_default(UP) DN swp1s3 10G 9216 Trunk/L2 Master: br_default(UP) DN swp2s0 25G 9216 Trunk/L2 Master: br_default(UP) DN swp2s1 25G 9216 Trunk/L2 Master: br_default(UP) DN swp2s2 25G 9216 Trunk/L2 Master: br_default(UP) DN swp2s3 25G 9216 Trunk/L2 Master: br_default(UP) UP swp3 100G 9216 Trunk/L2 node1 (e3b) Master: br_default(UP) UP swp4 100G 9216 Trunk/L2 node2 (e3b) Master: br_default(UP) ... ... UP swp15 100G 9216 BondMember swp15 Master: cluster_isl(UP) UP swp16 100G 9216 BondMember swp16 Master: cluster_isl(UP) ...
-
sur les deux commutateurs sw1 et sw2, vérifiez que les deux nœuds ont chacun une connexion à chaque commutateur :
net show lldp
L'exemple suivant montre les résultats appropriés pour les deux commutateurs sw1 et sw2 :
cumulus@sw1:~$ net show lldp LocalPort Speed Mode RemoteHost RemotePort --------- ----- ---------- ----------------- ----------- swp3 100G Trunk/L2 node1 e3a swp4 100G Trunk/L2 node2 e3a swp15 100G BondMember sw2 swp15 swp16 100G BondMember sw2 swp16 cumulus@sw2:~$ net show lldp LocalPort Speed Mode RemoteHost RemotePort --------- ----- ---------- ----------------- ----------- swp3 100G Trunk/L2 node1 e3b swp4 100G Trunk/L2 node2 e3b swp15 100G BondMember sw1 swp15 swp16 100G BondMember sw1 swp16
-
sur le commutateur sw2, activez tous les ports orientés nœuds.
Les commandes suivantes permettent d'activer les ports orientés nœud sur le commutateur sw2 :
cumulus@sw2:~$ nv set interface swp1s0-3,swp2s0-3,swp3-14 link state up cumulus@sw2:~$ nv config apply cumulus@sw2:~$ nv config save
-
sur le commutateur sw2, vérifiez que tous les ports sont en service :
nv show interface
cumulus@sw2:~$ nv show interface Interface State Speed MTU Type Remote Host Remote Port Summary ----------- ----- ----- ----- -------- -------------------------- ----------- ---------- ... ... swp1s0 up 10G 9216 swp odq-a300-1a e0a swp1s1 up 10G 9216 swp odq-a300-1b e0a swp1s2 down 10G 9216 swp swp1s3 down 10G 9216 swp swp2s0 down 25G 9216 swp swp2s1 down 25G 9216 swp swp2s2 down 25G 9216 swp swp2s3 down 25G 9216 swp swp3 down 9216 swp swp4 down 9216 swp ... ... swp14 down 9216 swp swp15 up 100G 9216 swp ossg-int-rcf10 swp15 swp16 up 100G 9216 swp ossg-int-rcf10 swp16
-
sur les deux commutateurs sw1 et sw2, vérifiez que les deux nœuds ont chacun une connexion à chaque commutateur :
nv show interface --view=lldp
Les exemples suivants montrent les résultats appropriés pour les deux commutateurs sw1 et sw2 :
cumulus@sw1:~$ nv show interface --view=lldp Interface Speed Type Remote Host Remote Port ----------- ----- -------- ---------------------------------- ----------- ... ... swp1s0 10G swp odq-a300-1a e0a swp1s1 10G swp odq-a300-1b e0a swp1s2 10G swp swp1s3 10G swp swp2s0 25G swp swp2s1 25G swp swp2s2 25G swp swp2s3 25G swp swp3 swp swp4 swp ... ... swp14 swp swp15 100G swp ossg-int-rcf10 swp15 swp16 100G swp ossg-int-rcf10 swp16 cumulus@sw2:~$ nv show interface --view=lldp Interface Speed Type Remote Host Remote Port ----------- ----- -------- ---------------------------------- ----------- ... ... swp1s0 10G swp odq-a300-1a e0a swp1s1 10G swp odq-a300-1b e0a swp1s2 10G swp swp1s3 10G swp swp2s0 25G swp swp2s1 25G swp swp2s2 25G swp swp2s3 25G swp swp3 swp swp4 swp ... ... swp14 swp swp15 100G swp ossg-int-rcf10 swp15 swp16 100G swp ossg-int-rcf10 swp16
-
affiche des informations sur les périphériques réseau détectés dans votre cluster :
network device-discovery show -protocol lldp
Montrer l'exemple
cluster1::*> network device-discovery show -protocol lldp Node/ Local Discovered Protocol Port Device (LLDP: ChassisID) Interface Platform ----------- ------ ------------------------- ------------ ---------------- node1 /lldp e3a sw1 (b8:ce:f6:19:1a:7e) swp3 - e3b sw2 (b8:ce:f6:19:1b:96) swp3 - node2 /lldp e3a sw1 (b8:ce:f6:19:1a:7e) swp4 - e3b sw2 (b8:ce:f6:19:1b:96) swp4 -
-
Vérifier que tous les ports du cluster sont bien :
network port show -ipspace Cluster
Montrer l'exemple
L'exemple suivant montre que tous les ports du cluster apparaissent sur les nœuds 1 et sur le nœud 2 :
cluster1::*> network port show -ipspace Cluster Node: node1 Ignore Speed(Mbps) Health Health Port IPspace Broadcast Domain Link MTU Admin/Oper Status Status --------- ------------ ---------------- ---- ---- ----------- -------- ------ e3a Cluster Cluster up 9000 auto/10000 healthy false e3b Cluster Cluster up 9000 auto/10000 healthy false Node: node2 Ignore Speed(Mbps) Health Health Port IPspace Broadcast Domain Link MTU Admin/Oper Status Status --------- ------------ ---------------- ---- ---- ----------- -------- ------ e3a Cluster Cluster up 9000 auto/10000 healthy false e3b Cluster Cluster up 9000 auto/10000 healthy false
Étape 3 : vérifier la configuration
-
Activer la fonction de revert automatique sur toutes les LIFs du cluster :
net interface modify -vserver Cluster -lif * -auto-revert true
Montrer l'exemple
cluster1::*> net interface modify -vserver Cluster -lif * -auto-revert true Logical Vserver Interface Auto-revert --------- ------------- ------------ Cluster node1_clus1 true node1_clus2 true node2_clus1 true node2_clus2 true
-
Vérifiez que toutes les interfaces s'affichent
true
pourIs Home
:net interface show -vserver Cluster
Cette opération peut prendre une minute. Montrer l'exemple
L'exemple suivant montre que toutes les LIFs sont up sur le nœud1 et celui du nœud2, ainsi que celui-ci
Is Home
les résultats sont vrais :cluster1::*> net interface show -vserver Cluster Logical Status Network Current Current Is Vserver Interface Admin/Oper Address/Mask Node Port Home --------- ------------ ---------- ------------------ ---------- ------- ---- Cluster node1_clus1 up/up 169.254.209.69/16 node1 e3a true node1_clus2 up/up 169.254.49.125/16 node1 e3b true node2_clus1 up/up 169.254.47.194/16 node2 e3a true node2_clus2 up/up 169.254.19.183/16 node2 e3b true
-
Vérifiez que les paramètres sont désactivés :
network options switchless-cluster show
Montrer l'exemple
La sortie FALSE dans l'exemple suivant montre que les paramètres de configuration sont désactivés :
cluster1::*> network options switchless-cluster show Enable Switchless Cluster: false
-
Vérifiez l'état des membres du nœud sur le cluster :
cluster show
Montrer l'exemple
L'exemple suivant affiche des informations sur la santé et l'éligibilité des nœuds du cluster :
cluster1::*> cluster show Node Health Eligibility Epsilon -------------------- ------- ------------ -------- node1 true true false node2 true true false
-
Vérifiez la connectivité des interfaces de cluster distantes :
Vous pouvez utiliser le network interface check cluster-connectivity
pour lancer un contrôle d'accessibilité pour la connectivité du cluster, puis afficher les détails :
network interface check cluster-connectivity start
et network interface check cluster-connectivity show
cluster1::*> network interface check cluster-connectivity start
REMARQUE : attendez un certain nombre de secondes avant d'exécuter show
la commande pour afficher les détails.
cluster1::*> network interface check cluster-connectivity show Source Destination Packet Node Date LIF LIF Loss ------ -------------------------- ---------------- ---------------- ----------- node1 3/5/2022 19:21:18 -06:00 node1_clus2 node2-clus1 none 3/5/2022 19:21:20 -06:00 node1_clus2 node2_clus2 none node2 3/5/2022 19:21:18 -06:00 node2_clus2 node1_clus1 none 3/5/2022 19:21:20 -06:00 node2_clus2 node1_clus2 none
Pour toutes les versions de ONTAP, vous pouvez également utiliser cluster ping-cluster -node <name>
pour vérifier la connectivité :
cluster ping-cluster -node <name>
cluster1::*> cluster ping-cluster -node local Host is node1 Getting addresses from network interface table... Cluster node1_clus1 169.254.209.69 node1 e3a Cluster node1_clus2 169.254.49.125 node1 e3b Cluster node2_clus1 169.254.47.194 node2 e3a Cluster node2_clus2 169.254.19.183 node2 e3b Local = 169.254.47.194 169.254.19.183 Remote = 169.254.209.69 169.254.49.125 Cluster Vserver Id = 4294967293 Ping status: Basic connectivity succeeds on 4 path(s) Basic connectivity fails on 0 path(s) Detected 9000 byte MTU on 4 path(s): Local 169.254.47.194 to Remote 169.254.209.69 Local 169.254.47.194 to Remote 169.254.49.125 Local 169.254.19.183 to Remote 169.254.209.69 Local 169.254.19.183 to Remote 169.254.49.125 Larger than PMTU communication succeeds on 4 path(s) RPC status: 2 paths up, 0 paths down (tcp check) 2 paths up, 0 paths down (udp check)