准备工作节点
Kubernetes集群中的所有工作节点都必须能够挂载为Pod配置的卷。要准备工作节点、必须根据您选择的驱动程序安装NFS、iSCSI或NVMe/TCP工具。
选择合适的工具
如果您使用的是驱动程序组合、则应安装驱动程序所需的所有工具。默认情况下、最新版本的RedHat CoreTM OS已安装这些工具。
"安装NFS工具"如果您使用的是: ontap-nas
、 ontap-nas-economy
、 ontap-nas-flexgroup
、 azure-netapp-files
gcp-cvs
。
"安装iSCSI工具"如果您使用的是: ontap-san
、 ontap-san-economy
、 solidfire-san
。
"安装NVMe工具"用于 `ontap-san`基于TCP (NVMe/TCP)协议的非易失性内存标准(NVMe)。
对于NVMe/TCP、建议使用ONTAP 9.12或更高版本。 |
节点服务发现
Astra Trident会尝试自动检测节点是否可以运行iSCSI或NFS服务。
节点服务发现可识别已发现的服务、但无法保证服务已正确配置。相反、如果没有发现的服务、则无法保证卷挂载将失败。 |
Astra Trident会为节点创建事件以标识发现的服务。要查看这些事件、请运行:
kubectl get event -A --field-selector involvedObject.name=<Kubernetes node name>
Astra Trident标识为Trident节点CR上的每个节点启用的服务。要查看发现的服务、请运行:
tridentctl get node -o wide -n <Trident namespace>
NFS卷
使用适用于您的操作系统的命令安装NFS工具。确保NFS服务已在启动期间启动。
sudo yum install -y nfs-utils
sudo apt-get install -y nfs-common
安装NFS工具后重新启动工作节点、以防止在将卷连接到容器时失败。 |
iSCSI 卷
Astra Trident可以自动建立iSCSI会话、扫描LUN、发现多路径设备、对其进行格式化并将其挂载到Pod。
iSCSI自我修复功能
对于ONTAP 系统、Astra Trident每五分钟运行一次iSCSI自我修复、以便:
-
*确定*所需的iSCSI会话状态和当前的iSCSI会话状态。
-
将所需状态与当前状态进行比较、以确定所需的修复。Astra Trident可确定修复优先级以及提前修复的时间。
-
需要执行*修复*才能将当前iSCSI会话状态恢复为所需的iSCSI会话状态。
自我修复活动日志位于相应的Demonset Pod上的容器中 trident-main 。要查看日志、必须在Astra Trident安装期间将设置 `debug`为"TRUE"。
|
Astra Trident iSCSI自我修复功能有助于防止:
-
在网络连接问题描述 之后可能发生的陈旧或运行不正常的iSCSI会话。如果会话已过时、则Astra Trident会等待七分钟、然后再注销以重新建立与门户的连接。
例如、如果在存储控制器上轮换了CHAP密钥、而网络断开了连接、则旧的(stal) CHAP密钥可能会持续存在。自修复功能可以识别此问题、并自动重新建立会话以应用更新后的CHAP密码。 -
缺少iSCSI会话
-
缺少LUN
升级Trident前的注意事项
-
如果仅使用了每个节点的igroup (在23.04及更高版本中推出)、则iSCSI自我修复功能将对SCSI总线中的所有设备启动SCSI重新检查。
-
如果仅使用后端范围的igroup (自23.04起已弃用)、则iSCSI自行恢复功能将启动SCSI重新检查、以确定SCSI总线中的确切LUN ID。
-
如果混合使用了每个节点的igroub和后端范围的igroux、则iSCSI自我修复功能将对SCSI总线中的确切LUN ID启动SCSI重新检查。
安装iSCSI工具
使用适用于您的操作系统的命令安装iSCSI工具。
-
Kubernetes 集群中的每个节点都必须具有唯一的 IQN 。* 这是必要的前提条件 * 。
-
如果在驱动程序和Element OS 12.5或更早版本中使用RHCOS 4.5或更高版本或其他与RHEL兼容的Linux分发版
solidfire-san
、请确保在中将CHAP身份验证算法设置为MD5/etc/iscsi/iscsid.conf
。Element 12.7可使用安全FIPS兼容CHAP算法SHA1、SHA-256和SHA3-256。sudo sed -i 's/^\(node.session.auth.chap_algs\).*/\1 = MD5/' /etc/iscsi/iscsid.conf
-
如果在iSCSI PV中使用运行RHE/RedHat CoreTM OS的工作节点、请在StorageClass中指定 `discard`mountOption以执行实时空间回收。请参阅 "Red Hat 文档"。
-
安装以下系统软件包:
sudo yum install -y lsscsi iscsi-initiator-utils sg3_utils device-mapper-multipath
-
检查 iscsi-initiator-utils 版本是否为 6.2.0.877-2.el7 或更高版本:
rpm -q iscsi-initiator-utils
-
将扫描设置为手动:
sudo sed -i 's/^\(node.session.scan\).*/\1 = manual/' /etc/iscsi/iscsid.conf
-
启用多路径:
sudo mpathconf --enable --with_multipathd y --find_multipaths n
确保 etc/multipath.conf`包含 `find_multipaths no`在下 `defaults
。 -
确保 `iscsid`和 `multipathd`正在运行:
sudo systemctl enable --now iscsid multipathd
-
启用并启动
iscsi
:sudo systemctl enable --now iscsi
-
安装以下系统软件包:
sudo apt-get install -y open-iscsi lsscsi sg3-utils multipath-tools scsitools
-
检查 open-iscsi 版本是否为 2.0.877-5ubuntu2.10 或更高版本(对于双子系统)或 2.0.877-7.1ubuntu6.1 或更高版本(对于 Focal ):
dpkg -l open-iscsi
-
将扫描设置为手动:
sudo sed -i 's/^\(node.session.scan\).*/\1 = manual/' /etc/iscsi/iscsid.conf
-
启用多路径:
sudo tee /etc/multipath.conf <<-'EOF defaults { user_friendly_names yes find_multipaths no } EOF sudo systemctl enable --now multipath-tools.service sudo service multipath-tools restart
确保 etc/multipath.conf`包含 `find_multipaths no`在下 `defaults
。 -
确保 `open-iscsi`和 `multipath-tools`已启用且正在运行:
sudo systemctl status multipath-tools sudo systemctl enable --now open-iscsi.service sudo systemctl status open-iscsi
对于Ubuntu 18.04、您必须先使用发现目标端口 iscsiadm
、然后open-iscsi`才能启动iSCSI守护进程。您也可以将此服务修改 `iscsi`为自动启动 `iscsid
。
配置或禁用iSCSI自我修复
您可以配置以下A作用 力三端iSCSI自我修复设置来修复陈旧的会话:
-
iSCSI自我修复间隔:确定调用iSCSI自我修复的频率(默认值:5分钟)。您可以将其配置为通过设置较小的数字来提高运行频率、也可以通过设置较大的数字来降低运行频率。
将iSCSI自我修复间隔设置为0可完全停止iSCSI自我修复。建议不要禁用iSCSI自我修复;只有在iSCSI自我修复功能无法正常工作或出于调试目的时、才应禁用它。 |
-
iSCSI自我修复等待时间:确定在注销运行状况不正常的会话并尝试重新登录之前iSCSI自我修复等待的时间(默认值:7分钟)。您可以将其配置为较大的数字、以便确定为运行状况不正常的会话必须等待较长的时间才能注销、然后再尝试重新登录、或者配置为较小的数字以较早地注销和登录。
要配置或更改iSCSI自我修复设置、请在Helm安装或Helm更新期间传递 `iscsiSelfHealingInterval`和 `iscsiSelfHealingWaitTime`参数。
以下示例将iSCSI自我修复间隔设置为3分钟、并将自我修复等待时间设置为6分钟:
helm install trident trident-operator-100.2406.0.tgz --set iscsiSelfHealingInterval=3m0s --set iscsiSelfHealingWaitTime=6m0s -n trident
要配置或更改iSCSI自我修复设置、请在安装或更新dentctri期间传递 `iscsi-self-healing-interval`和 `iscsi-self-healing-wait-time`参数。
以下示例将iSCSI自我修复间隔设置为3分钟、并将自我修复等待时间设置为6分钟:
tridentctl install --iscsi-self-healing-interval=3m0s --iscsi-self-healing-wait-time=6m0s -n trident
NVMe/TCP卷
使用适用于您的操作系统的命令安装NVMe工具。
|
sudo yum install nvme-cli sudo yum install linux-modules-extra-$(uname -r) sudo modprobe nvme-tcp
sudo apt install nvme-cli sudo apt -y install linux-modules-extra-$(uname -r) sudo modprobe nvme-tcp
验证安装
安装后、使用命令验证Kubenetes集群中的每个节点是否都具有唯一的NQN:
cat /etc/nvme/hostnqn
Asta Trident会修改此 `ctrl_device_tmo`值、以确保NVMe在路径发生故障时不会放弃此路径。请勿更改此设置。 |