将双节点无交换机集群迁移到使用Cisco Nexus 3232C 集群交换机的集群。
如果您有一个双节点无交换机集群,您可以迁移到包含Cisco Nexus 3232C 集群网络交换机的双节点有交换机集群。这是一个非破坏性的过程。
审查要求
请核实以下安装和连接:
-
端口可用于节点连接。集群交换机使用交换机间链路 (ISL) 端口 e1/31-32。
-
您拥有适用于集群连接的线缆:
-
具有 10 GbE 集群连接的节点需要 QSFP 光模块和分支光纤电缆或 QSFP 转 SFP+ 铜缆分支电缆。
-
具有 40/100 GbE 集群连接的节点需要支持 QSFP/QSFP28 光模块,并配备光纤电缆或 QSFP/QSFP28 铜缆直连电缆。
-
集群交换机需要合适的 ISL 布线:2 根 QSFP28 光纤或铜缆直连电缆。
-
-
配置已正确设置并正常运行。
这两个节点必须连接在一起,并在双节点无交换机集群环境中运行。
-
集群所有端口均处于*开启*状态。
-
支持Cisco Nexus 3232C 集群交换机。
-
现有集群网络配置如下:
-
两台交换机上都配备了冗余且功能齐全的 Nexus 3232C 集群基础设施。
-
交换机上的最新 RCF 和 NX-OS 版本
-
两个交换机的管理连接功能
-
可通过控制台访问两个交换机
-
所有处于*up*状态但尚未迁移的集群逻辑接口(LIF)
-
开关的初始定制
-
所有ISL端口均已启用并连接线缆
-
本流程中的示例使用以下开关和节点命名规则:
-
Nexus 3232C 集群交换机,C1 和 C2。
-
节点分别为 n1 和 n2。
本流程中的示例使用两个节点,每个节点使用两个 40 GbE 集群互连端口 e4a 和 e4e。这"硬件宇宙"包含有关您平台上集群端口的详细信息。
-
n1_clus1 是连接到节点 n1 的集群交换机 C1 的第一个集群逻辑接口 (LIF)。
-
n1_clus2 是第一个连接到节点 n1 的集群交换机 C2 的集群 LIF。
-
n2_clus1 是第一个连接到节点 n2 的集群交换机 C1 的集群 LIF。
-
n2_clus2 是第二个要连接到节点 n2 的集群交换机 C2 的集群 LIF。
-
10 GbE 和 40/100 GbE 端口的数量在参考配置文件 (RCF) 中定义,这些文件可在以下网址获取:"Cisco集群网络交换机参考配置文件下载" 。
|
|
该过程需要同时使用ONTAP命令和Cisco Nexus 3000 系列交换机命令;除非另有说明,否则使用ONTAP命令。 |
步骤 1:显示和迁移物理端口和逻辑端口
-
如果此集群上启用了AutoSupport ,则通过调用AutoSupport消息来抑制自动创建案例:
system node autosupport invoke -node * -type all - message MAINT=xhx 是维护窗口的持续时间,单位为小时。
AutoSupport消息会通知技术支持此维护任务,以便在维护窗口期间抑制自动创建案例。
-
确定每个集群接口的管理或运行状态:
-
显示网络端口属性:
network port show -role cluster显示示例
cluster::*> network port show -role cluster (network port show) Node: n1 Ignore Speed(Mbps) Health Health Port IPspace Broadcast Domain Link MTU Admin/Oper Status Status --------- ------------ ---------------- ---- ---- ----------- -------- ----- e4a Cluster Cluster up 9000 auto/40000 - e4e Cluster Cluster up 9000 auto/40000 - - Node: n2 Ignore Speed(Mbps) Health Health Port IPspace Broadcast Domain Link MTU Admin/Oper Status Status --------- ------------ ---------------- ---- ---- ----------- -------- ----- e4a Cluster Cluster up 9000 auto/40000 - e4e Cluster Cluster up 9000 auto/40000 - 4 entries were displayed. -
显示有关逻辑接口及其指定归属节点的信息:
network interface show -role cluster显示示例
cluster::*> network interface show -role cluster (network interface show) Logical Status Network Current Current Is Vserver Interface Admin/Oper Address/Mask Node Port Home ----------- ---------- ---------- ------------------ ------------- ------- --- Cluster n1_clus1 up/up 10.10.0.1/24 n1 e4a true n1_clus2 up/up 10.10.0.2/24 n1 e4e true n2_clus1 up/up 10.10.0.3/24 n2 e4a true n2_clus2 up/up 10.10.0.4/24 n2 e4e true 4 entries were displayed. -
使用高级权限命令验证是否已启用无交换机集群检测:
network options detect-switchless-cluster show`
显示示例
以下示例的输出表明已启用无交换机集群检测:
cluster::*> network options detect-switchless-cluster show Enable Switchless Cluster Detection: true
-
-
确认新的 3232C 交换机上已安装相应的 RCF 和映像,并进行任何必要的站点自定义,例如添加用户、密码和网络地址。
此时您必须准备好这两个开关。如果需要升级 RCF 和镜像软件,必须按照以下步骤操作:
-
请访问NetApp支持网站上的 Cisco 以太网交换机 页面。
-
请记下您交换机的型号以及该页表格中所需的软件版本。
-
下载相应版本的RCF。
-
在“描述”页面上点击“继续”,接受许可协议,然后按照“下载”页面上的说明下载 RCF。
-
下载相应版本的图像处理软件。
-
-
在“描述”页面上点击“继续”,接受许可协议,然后按照“下载”页面上的说明下载 RCF。
-
在 Nexus 3232C 交换机 C1 和 C2 上,禁用所有面向节点的端口 C1 和 C2,但不要禁用 ISL 端口 e1/31-32。
有关Cisco命令的更多信息,请参阅以下位置列出的指南: "Cisco Nexus 3000 系列 NX-OS 命令参考" 。
显示示例
以下示例展示了如何使用 RCF 支持的配置,在 Nexus 3232C 集群交换机 C1 和 C2 上禁用端口 1 到 30。
NX3232_RCF_v1.0_24p10g_24p100g.txt:C1# copy running-config startup-config [] 100% Copy complete. C1# configure C1(config)# int e1/1/1-4,e1/2/1-4,e1/3/1-4,e1/4/1-4,e1/5/1-4,e1/6/1-4,e1/7-30 C1(config-if-range)# shutdown C1(config-if-range)# exit C1(config)# exit C2# copy running-config startup-config [] 100% Copy complete. C2# configure C2(config)# int e1/1/1-4,e1/2/1-4,e1/3/1-4,e1/4/1-4,e1/5/1-4,e1/6/1-4,e1/7-30 C2(config-if-range)# shutdown C2(config-if-range)# exit C2(config)# exit
-
使用支持的电缆将 C1 上的端口 1/31 和 1/32 连接到 C2 上的相同端口。
-
请确认C1和C2上的ISL端口是否正常工作:
show port-channel summary有关Cisco命令的更多信息,请参阅以下位置列出的指南: "Cisco Nexus 3000 系列 NX-OS 命令参考" 。
显示示例
以下示例展示了Cisco `show port-channel summary`用于验证 C1 和 C2 上的 ISL 端口是否正常运行的命令:
C1# show port-channel summary Flags: D - Down P - Up in port-channel (members) I - Individual H - Hot-standby (LACP only) s - Suspended r - Module-removed S - Switched R - Routed U - Up (port-channel) M - Not in use. Min-links not met -------------------------------------------------------------------------------- Port- Group Channel Type Protocol Member Ports ------------------------------------------------------------------------------- 1 Po1(SU) Eth LACP Eth1/31(P) Eth1/32(P) C2# show port-channel summary Flags: D - Down P - Up in port-channel (members) I - Individual H - Hot-standby (LACP only) s - Suspended r - Module-removed S - Switched R - Routed U - Up (port-channel) M - Not in use. Min-links not met -------------------------------------------------------------------------------- Group Port- Type Protocol Member Ports Channel -------------------------------------------------------------------------------- 1 Po1(SU) Eth LACP Eth1/31(P) Eth1/32(P) -
显示交换机上相邻设备的列表。
有关Cisco命令的更多信息,请参阅以下位置列出的指南: "Cisco Nexus 3000 系列 NX-OS 命令参考" 。
显示示例
以下示例展示了Cisco命令 `show cdp neighbors`用于显示交换机上的相邻设备:
C1# show cdp neighbors Capability Codes: R - Router, T - Trans-Bridge, B - Source-Route-Bridge S - Switch, H - Host, I - IGMP, r - Repeater, V - VoIP-Phone, D - Remotely-Managed-Device, s - Supports-STP-Dispute Device-ID Local Intrfce Hldtme Capability Platform Port ID C2 Eth1/31 174 R S I s N3K-C3232C Eth1/31 C2 Eth1/32 174 R S I s N3K-C3232C Eth1/32 Total entries displayed: 2 C2# show cdp neighbors Capability Codes: R - Router, T - Trans-Bridge, B - Source-Route-Bridge S - Switch, H - Host, I - IGMP, r - Repeater, V - VoIP-Phone, D - Remotely-Managed-Device, s - Supports-STP-Dispute Device-ID Local Intrfce Hldtme Capability Platform Port ID C1 Eth1/31 178 R S I s N3K-C3232C Eth1/31 C1 Eth1/32 178 R S I s N3K-C3232C Eth1/32 Total entries displayed: 2 -
显示每个节点上的集群端口连接情况:
network device-discovery show显示示例
以下示例显示了双节点无交换机集群配置的集群端口连接情况:
cluster::*> network device-discovery show Local Discovered Node Port Device Interface Platform ----------- ------ ------------------- ---------------- ---------------- n1 /cdp e4a n2 e4a FAS9000 e4e n2 e4e FAS9000 n2 /cdp e4a n1 e4a FAS9000 e4e n1 e4e FAS9000 -
将 n1_clus1 和 n2_clus1 LIF 迁移到其目标节点的物理端口:
network interface migrate -vserver vserver-name -lif lif-name source-node source-node-name -destination-port destination-port-name显示示例
您必须对每个本地节点执行该命令,如下例所示:
cluster::*> network interface migrate -vserver cluster -lif n1_clus1 -source-node n1 -destination-node n1 -destination-port e4e cluster::*> network interface migrate -vserver cluster -lif n2_clus1 -source-node n2 -destination-node n2 -destination-port e4e
步骤 2:关闭重新分配的 LIF 并断开电缆
-
验证集群接口是否已成功迁移:
network interface show -role cluster显示示例
以下示例显示,迁移完成后,n1_clus1 和 n2_clus1 LIF 的“Is Home”状态已变为“false”:
cluster::*> network interface show -role cluster (network interface show) Logical Status Network Current Current Is Vserver Interface Admin/Oper Address/Mask Node Port Home ----------- ---------- ---------- ------------------ ------------- ------- ---- Cluster n1_clus1 up/up 10.10.0.1/24 n1 e4e false n1_clus2 up/up 10.10.0.2/24 n1 e4e true n2_clus1 up/up 10.10.0.3/24 n2 e4e false n2_clus2 up/up 10.10.0.4/24 n2 e4e true 4 entries were displayed. -
关闭在步骤 9 中迁移的 n1_clus1 和 n2_clus1 LIF 的集群端口:
network port modify -node node-name -port port-name -up-admin false显示示例
您必须对每个端口执行该命令,如下例所示:
cluster::*> network port modify -node n1 -port e4a -up-admin false cluster::*> network port modify -node n2 -port e4a -up-admin false
-
验证远程集群接口的连接性:
你可以使用 `network interface check cluster-connectivity`执行命令以启动集群连接性检查,然后显示详细信息:
network interface check cluster-connectivity start`和 `network interface check cluster-connectivity show
cluster1::*> network interface check cluster-connectivity start
*注意:*运行程序前请等待几秒钟 `show`显示详细信息的命令。
cluster1::*> network interface check cluster-connectivity show
Source Destination Packet
Node Date LIF LIF Loss
------ -------------------------- ---------------- ---------------- -----------
n1
3/5/2022 19:21:18 -06:00 n1_clus2 n2-clus1 none
3/5/2022 19:21:20 -06:00 n1_clus2 n2_clus2 none
n2
3/5/2022 19:21:18 -06:00 n2_clus2 n1_clus1 none
3/5/2022 19:21:20 -06:00 n2_clus2 n1_clus2 none
对于所有ONTAP版本,您也可以使用 `cluster ping-cluster -node <name>`检查连接性的命令:
cluster ping-cluster -node <name>
cluster1::*> cluster ping-cluster -node local
Host is n1
Getting addresses from network interface table...
Cluster n1_clus1 n1 e4a 10.10.0.1
Cluster n1_clus2 n1 e4e 10.10.0.2
Cluster n2_clus1 n2 e4a 10.10.0.3
Cluster n2_clus2 n2 e4e 10.10.0.4
Local = 10.10.0.1 10.10.0.2
Remote = 10.10.0.3 10.10.0.4
Cluster Vserver Id = 4294967293 Ping status:
....
Basic connectivity succeeds on 4 path(s)
Basic connectivity fails on 0 path(s) ................
Detected 9000 byte MTU on 32 path(s):
Local 10.10.0.1 to Remote 10.10.0.3
Local 10.10.0.1 to Remote 10.10.0.4
Local 10.10.0.2 to Remote 10.10.0.3
Local 10.10.0.2 to Remote 10.10.0.4
Larger than PMTU communication succeeds on 4 path(s) RPC status:
1 paths up, 0 paths down (tcp check)
1 paths up, 0 paths down (ucp check)
步骤 3:启用集群端口
-
断开节点 n2 上 e4a 的电缆。
您可以参考运行配置,使用支持的电缆将 e4a 连接到 C1 上的下一个可用的 40 GbE 端口 1/8。
-
启用 C1 上所有面向节点的端口。
有关Cisco命令的更多信息,请参阅以下位置列出的指南: "Cisco Nexus 3000 系列 NX-OS 命令参考" 。
显示示例
以下示例展示了如何使用 RCF 中支持的配置,在 Nexus 3232C 集群交换机 C1 和 C2 上启用端口 1 到 30。
NX3232_RCF_v1.0_24p10g_26p100g.txt:C1# configure C1(config)# int e1/1/1-4,e1/2/1-4,e1/3/1-4,e1/4/1-4,e1/5/1-4,e1/6/1-4,e1/7-30 C1(config-if-range)# no shutdown C1(config-if-range)# exit C1(config)# exit
-
在每个节点上启用第一个集群端口 e4a:
network port modify -node node-name -port port-name -up-admin true显示示例
cluster::*> network port modify -node n1 -port e4a -up-admin true cluster::*> network port modify -node n2 -port e4a -up-admin true
-
确认两个节点上的集群都已启动:
network port show -role cluster显示示例
cluster::*> network port show -role cluster (network port show) Node: n1 Ignore Speed(Mbps) Health Health Port IPspace Broadcast Domain Link MTU Admin/Oper Status Status --------- ------------ ---------------- ---- ---- ----------- -------- ----- e4a Cluster Cluster up 9000 auto/40000 - e4e Cluster Cluster up 9000 auto/40000 - - Node: n2 Ignore Speed(Mbps) Health Health Port IPspace Broadcast Domain Link MTU Admin/Oper Status Status --------- ------------ ---------------- ---- ---- ----------- -------- ----- e4a Cluster Cluster up 9000 auto/40000 - e4e Cluster Cluster up 9000 auto/40000 - 4 entries were displayed. -
对于每个节点,还原所有已迁移的集群互连 LIF:
network interface revert -vserver cluster -lif lif-name显示示例
您必须将每个 LIF 分别恢复到其原始端口,如下例所示:
cluster::*> network interface revert -vserver cluster -lif n1_clus1 cluster::*> network interface revert -vserver cluster -lif n2_clus1
-
请确认所有 LIF 都已恢复到其原端口:
network interface show -role cluster这 `Is Home`该列应显示以下值: `true`对于列表中列出的所有端口 `Current Port`柱子。如果显示的值为 `false`端口尚未恢复。
显示示例
cluster::*> network interface show -role cluster (network interface show) Logical Status Network Current Current Is Vserver Interface Admin/Oper Address/Mask Node Port Home ----------- ---------- ---------- ------------------ ------------- ------- ---- Cluster n1_clus1 up/up 10.10.0.1/24 n1 e4a true n1_clus2 up/up 10.10.0.2/24 n1 e4e true n2_clus1 up/up 10.10.0.3/24 n2 e4a true n2_clus2 up/up 10.10.0.4/24 n2 e4e true 4 entries were displayed.
步骤 4:启用重新分配的 LIF
-
显示每个节点上的集群端口连接情况:
network device-discovery show显示示例
cluster::*> network device-discovery show Local Discovered Node Port Device Interface Platform ----------- ------ ------------------- ---------------- ---------------- n1 /cdp e4a C1 Ethernet1/7 N3K-C3232C e4e n2 e4e FAS9000 n2 /cdp e4a C1 Ethernet1/8 N3K-C3232C e4e n1 e4e FAS9000 -
将 clus2 迁移到每个节点控制台上的 e4a 端口:
network interface migrate cluster -lif lif-name -source-node source-node-name -destination-node destination-node-name -destination-port destination-port-name显示示例
您必须按照以下示例所示,将每个 LIF 单独迁移到其所属端口:
cluster::*> network interface migrate -vserver cluster -lif n1_clus2 -source-node n1 -destination-node n1 -destination-port e4a cluster::*> network interface migrate -vserver cluster -lif n2_clus2 -source-node n2 -destination-node n2 -destination-port e4a
-
关闭两个节点上的集群端口 clus2 LIF:
network port modify显示示例
以下示例显示了如何设置指定的端口 `false`关闭两个节点上的端口:
cluster::*> network port modify -node n1 -port e4e -up-admin false cluster::*> network port modify -node n2 -port e4e -up-admin false
-
验证集群 LIF 状态:
network interface show显示示例
cluster::*> network interface show -role cluster (network interface show) Logical Status Network Current Current Is Vserver Interface Admin/Oper Address/Mask Node Port Home ----------- ---------- ---------- ------------------ ------------- ------- ---- Cluster n1_clus1 up/up 10.10.0.1/24 n1 e4a true n1_clus2 up/up 10.10.0.2/24 n1 e4a false n2_clus1 up/up 10.10.0.3/24 n2 e4a true n2_clus2 up/up 10.10.0.4/24 n2 e4a false 4 entries were displayed. -
断开节点 n1 上 e4e 的电缆。
您可以参考运行配置,将交换机 C2 上的第一个 40 GbE 端口(本例中为端口 1/7)连接到节点 n1 上的 e4e,使用适用于 Nexus 3232C 交换机型号的适当电缆。
-
断开节点 n2 上 e4e 的电缆。
您可以参考运行配置,使用适用于 Nexus 3232C 交换机型号的适当电缆,将 e4e 连接到 C2 上的下一个可用 40 GbE 端口(端口 1/8)。
-
启用 C2 上所有面向节点的端口。
显示示例
以下示例展示了如何使用 RCF 支持的配置在 Nexus 3132Q-V 集群交换机 C1 和 C2 上启用端口 1 到 30。
NX3232C_RCF_v1.0_24p10g_26p100g.txt:C2# configure C2(config)# int e1/1/1-4,e1/2/1-4,e1/3/1-4,e1/4/1-4,e1/5/1-4,e1/6/1-4,e1/7-30 C2(config-if-range)# no shutdown C2(config-if-range)# exit C2(config)# exit
-
在每个节点上启用第二个集群端口 e4e:
network port modify显示示例
以下示例展示了如何在每个节点上启动第二个集群端口 e4e:
cluster::*> network port modify -node n1 -port e4e -up-admin true cluster::*> *network port modify -node n2 -port e4e -up-admin true*s
-
对于每个节点,还原所有已迁移的集群互连 LIF:
network interface revert显示示例
以下示例显示已迁移的 LIF 恢复到其原端口。
cluster::*> network interface revert -vserver Cluster -lif n1_clus2 cluster::*> network interface revert -vserver Cluster -lif n2_clus2
-
确认所有集群互连端口均已恢复为其原始端口:
network interface show -role cluster这 `Is Home`该列应显示以下值: `true`对于列表中列出的所有端口 `Current Port`柱子。如果显示的值为 `false`端口尚未恢复。
显示示例
cluster::*> network interface show -role cluster (network interface show) Logical Status Network Current Current Is Vserver Interface Admin/Oper Address/Mask Node Port Home ----------- ---------- ---------- ------------------ ------------- ------- ---- Cluster n1_clus1 up/up 10.10.0.1/24 n1 e4a true n1_clus2 up/up 10.10.0.2/24 n1 e4e true n2_clus1 up/up 10.10.0.3/24 n2 e4a true n2_clus2 up/up 10.10.0.4/24 n2 e4e true 4 entries were displayed. -
确认所有集群互连端口均已连接。 `up`状态:
network port show -role cluster -
显示集群交换机端口号,每个集群端口通过这些端口连接到每个节点:
network device-discovery show显示示例
cluster::*> network device-discovery show Local Discovered Node Port Device Interface Platform ----------- ------ ------------------- ---------------- ---------------- n1 /cdp e4a C1 Ethernet1/7 N3K-C3232C e4e C2 Ethernet1/7 N3K-C3232C n2 /cdp e4a C1 Ethernet1/8 N3K-C3232C e4e C2 Ethernet1/8 N3K-C3232C -
显示已发现和监控的集群交换机:
system cluster-switch show显示示例
cluster::*> system cluster-switch show Switch Type Address Model --------------------------- ------------------ ---------------- --------------- C1 cluster-network 10.10.1.101 NX3232CV Serial Number: FOX000001 Is Monitored: true Reason: Software Version: Cisco Nexus Operating System (NX-OS) Software, Version 7.0(3)I6(1) Version Source: CDP C2 cluster-network 10.10.1.102 NX3232CV Serial Number: FOX000002 Is Monitored: true Reason: Software Version: Cisco Nexus Operating System (NX-OS) Software, Version 7.0(3)I6(1) Version Source: CDP 2 entries were displayed.
-
确认无交换机集群检测已将无交换机集群选项更改为禁用:
network options switchless-cluster show -
验证远程集群接口的连接性:
你可以使用 `network interface check cluster-connectivity`执行命令以启动集群连接性检查,然后显示详细信息:
network interface check cluster-connectivity start`和 `network interface check cluster-connectivity show
cluster1::*> network interface check cluster-connectivity start
*注意:*运行程序前请等待几秒钟 `show`显示详细信息的命令。
cluster1::*> network interface check cluster-connectivity show
Source Destination Packet
Node Date LIF LIF Loss
------ -------------------------- ---------------- ---------------- -----------
n1
3/5/2022 19:21:18 -06:00 n1_clus2 n2-clus1 none
3/5/2022 19:21:20 -06:00 n1_clus2 n2_clus2 none
n2
3/5/2022 19:21:18 -06:00 n2_clus2 n1_clus1 none
3/5/2022 19:21:20 -06:00 n2_clus2 n1_clus2 none
对于所有ONTAP版本,您也可以使用 `cluster ping-cluster -node <name>`检查连接性的命令:
cluster ping-cluster -node <name>
cluster1::*> cluster ping-cluster -node local
Host is n1
Getting addresses from network interface table...
Cluster n1_clus1 n1 e4a 10.10.0.1
Cluster n1_clus2 n1 e4e 10.10.0.2
Cluster n2_clus1 n2 e4a 10.10.0.3
Cluster n2_clus2 n2 e4e 10.10.0.4
Local = 10.10.0.1 10.10.0.2
Remote = 10.10.0.3 10.10.0.4
Cluster Vserver Id = 4294967293
Ping status:
....
Basic connectivity succeeds on 4 path(s)
Basic connectivity fails on 0 path(s) ................
Detected 9000 byte MTU on 32 path(s):
Local 10.10.0.1 to Remote 10.10.0.3
Local 10.10.0.1 to Remote 10.10.0.4
Local 10.10.0.2 to Remote 10.10.0.3
Local 10.10.0.2 to Remote 10.10.0.4
Larger than PMTU communication succeeds on 4 path(s) RPC status:
1 paths up, 0 paths down (tcp check)
1 paths up, 0 paths down (ucp check)