Skip to main content
AI Data Engine
简体中文版经机器翻译而成,仅供参考。如与英语版出现任何冲突,应以英语版为准。

将 AI Data Engine 部署为带代理的多节点部署

贡献者 netapp-dbagwell

当您的 Kubernetes 集群和安装程序主机仅通过出站代理访问互联网时,从 NetApp Console 将 AI Data Engine (AIDE)部署为多节点部署。此过程包括多节点部署的每一步以及代理步骤。如果您的集群和安装程序主机可以直接访问互联网,请改用 "将 AI Data Engine 部署为多节点部署"。

有关支持的代理类型和完整的参数参考,请参见"了解 AI Data Engine 的代理"。有关要在代理上允许的端点,请参见"出站互联网接入"。

开始之前

权限和访问
  • 您在 NetApp Console 中拥有_组织管理员_或更高权限。

  • 您有一个对目标集群具有 cluster-admin 访问权限的 kubeconfig。如果 `kubectl`不在您的 `PATH`中,安装程序会将其下载到 tools 目录。

Kubernetes 集群
  • 您的 Kubernetes 集群满足 "AIDE 多节点部署先决条件" 和 "AIDE 要求" 中所述的多节点先决条件。

  • 在运行 install 命令之前,集群上已存在 `aide`命名空间。

  • 调度 AI Data Engine 工作负载的节点具有 "节点标签" 中所述的节点标签。

  • 集群上有一个已配置的 StorageClass(默认名称: aide-sc),用于 AIDE 的有状态支持服务。

存储和 NetApp Console
  • 具有导出路径的 NFS 服务器可从集群访问,可用于 AIDE 配置卷。

  • 一个 NetApp Console 代理 "已部署",并且可从集群节点访问。运行安装命令需要 Console 代理 IP。

代理
  • 您已配置代理以允许 "出站互联网接入" 中的端点。

  • 您知道代理主机、端口和方案(http`或 `https)。如果代理需要身份验证,您也知道用户名和密码。

  • 如果您使用带有私有签名证书的 HTTPS 代理,则在安装程序主机上应具有作为 PEM 文件的 CA 证书,或者是包含 `.crt`和 `.pem`文件的平面目录。

  • 如果使用 TLS 检查代理,则在安装程序主机上具有相同格式的检查 CA 证书。安装程序需要它。

备注 仅在首次安装 AIDE 时使用安装程序。请勿使用它来升级 AIDE。安装后,AIDE 操作员负责管理升级。有关升级的信息,请联系 NetApp 支持部门。

代理如何应用于多节点部署

在多节点部署中,您拥有 Kubernetes 集群。安装程序为代理配置 AI Data Engine 工作负载,并且不会更改您的节点。在运行安装程序之前,您必须在每个节点上配置容器运行时和证书信任。

安装程序仅从安装程序主机检查代理。它不会检查您的节点。如果未配置节点的容器运行时,则安装会完成,并且该节点上的 pod 稍后会显示 ImagePullBackOff。

安装程序也不会在节点上安装操作系统软件包。验证节点是否具有环境所需的软件包,以及如果环境中需要,软件包管理器是否具有适当的代理配置。

为代理配置节点

在运行安装程序之前,请在每个节点、控制平面和工作节点上配置容器运行时,以通过代理拉取镜像。请使用提供给安装程序的相同代理主机、端口和方案。

  • 节点必须通过代理访问 "出站互联网接入" 中列出的 NetApp 容器注册表主机和映像层存储桶。

  • 将集群内部地址和节点地址排除在代理之外。

  • 如果使用带有私有签名证书的 HTTPS 代理,则节点还必须信任代理 CA 证书。

  • 如果使用 TLS 检查代理,则每个节点上的受信任 CA 证书必须包含代理的检查 CA 证书。

这些步骤取决于您的 Kubernetes 发行版。请参见您的发行版文档。

复制 install 命令

  1. 在 NetApp Console 中,导航到 AI data hub > AI Data Engine。

    此时将显示 AI Data Engine 登录页面。

  2. 选择*部署 AI Data Engine*。

  3. 选择*多节点*部署选项,然后选择*下一步*。

  4. 选择您的配置大小:

    • Small:建议用于最多约 10 亿个文件的环境。

    • 中等(默认):建议用于最多包含约 30 亿个文件的环境。

    • Large:建议用于最多约 60 亿个文件的环境。

      这些规模是推荐的基准,而不是硬性限制。对于超过 60 亿个文件的环境,AIDE 多节点部署需要与 NetApp 一起进行自定义规模调整;有关详细信息,请参见 "灵活调整大小准则"。

    向导将使用您选择的配置大小生成安装命令。您无需编辑命令即可设置大小。

  5. 将向导中显示的安装命令复制到编辑器。

install 命令从 `d13jb5dapseb36.cloudfront.net`下载安装程序并一步启动。该下载不使用代理。

  • 如果安装程序主机可以直接访问 d13jb5dapseb36.cloudfront.net,请跳过下一节并继续执行 创建代理密码文件。按复制的方式运行 install 命令。安装程序将提示您输入代理设置。要改为在命令行中提供这些设置,请参见 使用命令行标志进行非交互式安装。

  • 如果安装程序主机仅通过代理访问 Internet,则命令会在下载时停止。请先完成下一部分。只有安装程序主机需要此功能。您的节点不会下载安装程序。

通过代理下载安装程序

请自行下载安装程序,然后从 `./install-enterprise.sh`开始运行 install 命令。

  1. 将安装程序放到安装程序主机上。使用您的环境允许的任何方法,然后将文件放在安装程序主机上。

    通过代理从安装程序主机下载安装程序:

    mkdir -p ~/aide && cd ~/aide
    curl -fsSL -x http://PROXY_HOST:PROXY_PORT \
      https://d13jb5dapseb36.cloudfront.net/aide/latest/aide-installer.tar.gz -o aide-installer.tar.gz

    如果代理需要用户名,请将 `--proxy-user USER`添加到 `curl`命令中。如果省略密码, `curl`会提示您输入密码,因此密码不会保存在 shell 历史记录中。

    • 如果您的代理侦听 HTTPS,请在 -x`地址中使用 `https://。

    • 如果您的代理使用私有签名的证书,请添加 --proxy-cacert CA_FILE,或者先将 CA 证书添加到安装程序主机信任存储中。

    • 如果您使用 HTTPS 代理和早于 8.3 的 `curl`版本,则下载可能会暂停约一分钟。Ubuntu 22.04 包含此类版本。等待其完成。

      或者,从另一台计算机下载 https://d13jb5dapseb36.cloudfront.net/aide/latest/aide-installer.tar.gz,然后使用 `scp`或常用的文件传输方法将其复制到安装程序主机。

  2. 解压安装程序,并切换到安装程序文件夹:

    tar -xzf aide-installer.tar.gz
    cd installer

    从此安装程序文件夹内运行以下每个命令。文件夹中的 version.txt 文件显示安装程序内部版本。

  3. 准备从 NetApp Console 复制的安装命令。它下载安装程序,然后 `./install-enterprise.sh`使用您的参数运行。因为您已经下载了安装程序:

    • 删除 `./install-enterprise.sh`之前的所有内容,使命令以 `./install-enterprise.sh`开头。

    • 如果命令包含在引号中,例如 bash -c '…​‘,请删除最末尾的单引号(')。

    • 如果命令包含 --no-proxy,请将其删除。

      剩下的命令如下所示:

    ./install-enterprise.sh --flavor <small|medium|large> --kubeconfig <kubeconfig-path> --nfs-server <nfs-server> --nfs-data-share <export-path> --registry <registry> --account-id <account-id> --organization-id <organization-id> --agent-id <agent-id> --cm-host <console-agent-ip>

    + 保持 ./install-enterprise.sh 后面的每个参数与您复制的命令中显示的完全相同。安装程序将提示您输入代理设置。请参阅 交互式引导设置。

创建代理密码文件

如果您的代理需要身份验证,并且您希望在不被提示的情况下提供密码(例如在自动部署中),请在运行安装程序之前创建密码文件。否则,请跳过此部分。安装程序会以隐藏输入的方式提示输入密码。

此文件仅包含密码。按原样输入密码,无需对特殊字符进行百分号编码。

以运行 `./install-enterprise.sh`的同一用户身份创建该文件,因为安装程序会以该用户的身份读取该文件。

umask 077
read -rs -p 'Proxy password: ' P && printf '%s' "$P" > $HOME/.aide-proxy-password; unset P; echo
chmod 600 $HOME/.aide-proxy-password

安装完成后删除此文件。

提供代理服务器设置

安装程序会提示您输入代理设置。运行从 NetApp Console 复制的 install 命令,并根据提示进行操作。对于必须在无提示情况下运行的自动化部署,请参见 使用命令行标志进行非交互式安装。

使用在节点上配置的相同代理主机、端口、方案和 CA 证书。

使用交互式引导设置

当您在没有 `--proxy-host`或 `--no-proxy`的终端中运行 install 命令时,安装程序会询问以下问题。如果将值作为参数传递,则安装程序不会再次请求它。

提示 要输入的内容

Configure outbound proxy? (y/N)

输入 y。

代理主机或 IP

请输入代理主机名或 IPv4 地址,也可以使用端口 (host:port)。

代理方案(https`或 `http)

输入您的代理侦听的协议。默认值为 https。

代理端口

输入代理端口。HTTPS 的默认值为 443,HTTP 的默认值为 80。

代理类型

输入 r`以使用常规正向代理,或输入 `t`以使用 TLS 检查代理。按 Enter 接受默认值 `r。

代理自身证书的 CA 证书(仅限 HTTPS,可选)

输入 CA 文件或目录的路径。如果公共 CA 签署了代理证书,请按 Enter。对于 TLS 检查代理,请输入检查 CA 证书的路径。此为必填项。

代理是否需要用户名和密码?(y/N)

如果是,请输入用户名,然后输入两次密码。安装程序不会回显密码。

如果没有终端,安装程序将永远不会提示。传递 --proxy-host`以使用代理,如果代理需要密码,则传递 `--proxy-password-file。

使用命令行标志进行设置

对于必须在没有提示的情况下运行的自动部署或其他非交互式部署,请使用命令行标志。这些标志是可选的。安装程序会提示您输入未提供的任何代理信息。

将代理参数添加到 install 命令末尾,在最后一个现有参数之后。

  • 如果运行从 NetApp Console 复制的 install 命令,请在引号内、右引号之前添加参数。

  • 如果您下载了安装程序并缩短了命令,请将参数添加到缩短后的命令末尾。

如果命令包含 --no-proxy,请将其删除。保留 install 命令中的所有其他参数。有关每个参数的说明和默认值,请参见"代理配置参数"。以下示例仅显示代理参数。

具有用户名和密码的 HTTP 代理
--proxy-host proxy.example.com \
--proxy-port 3128 \
--proxy-scheme http \
--proxy-user svc-aide \
--proxy-password-file $HOME/.aide-proxy-password
具有私有签名证书且无身份验证的 HTTPS 代理
--proxy-host proxy.example.com \
--proxy-port 8443 \
--proxy-scheme https \
--proxy-ca-cert $HOME/proxy-ca.pem
TLS 检验代理
--proxy-host proxy.example.com \
--proxy-port 3128 \
--proxy-scheme http \
--proxy-type t \
--proxy-ca-cert $HOME/inspection-ca.pem
  • 如果您的代理不需要身份验证,请省略 --proxy-user`和 `--proxy-password-file。

  • 如果指定 --proxy-user 而不指定 --proxy-password-file,则在从终端运行安装程序时,它会提示您输入密码。

注意 使用 HTTP 代理时,代理用户名和密码将以明文形式发送。当代理需要身份验证时,请使用 HTTPS 代理。

运行安装

  1. 从可以访问您的 Kubernetes 集群的主机运行 install 命令。如果您下载了安装程序,请从安装程序文件夹中运行该命令。

    在安装程序下载任何内容之前,它会从安装程序主机检查代理是否响应、代理是否接受您的凭据,以及代理证书对于您选择的方案是否有效。如果检查失败,安装程序将停止并指出原因。该检查不会测试集群节点是否可以访问代理。

    备注 安装大约需要 30 分钟才能完成。可能会发生超时和重试,这是正常的。
  2. 如果未传递所有代理参数,请应答代理提示。请参阅 交互式引导设置。

  3. 回答安装程序的确认提示以继续安装。

    • 安装程序显示 kubeconfig 选择的 Kubernetes 集群,包括上下文、集群名称和 API 服务器。仅当这是您要使用的集群时,才回答“是”。如果是错误的集群,请停止安装程序,选择正确的 kubeconfig 上下文,然后再次运行安装程序。

    • 安装程序要求您确认多节点部署的先决条件是否已完成。回答“是”以继续。

    • 安装程序检测到运行 AI Data Engine NGINX ingress 的节点的 IP 地址,并要求您进行确认。按 Enter 键以保留显示的地址,或键入其他地址。使用可以从群集外部访问的地址。如果检测到的地址是内部群集地址,请改为键入可访问的地址。请勿输入 Console 代理地址。

  4. 监控进度屏幕,直到成功屏幕出现并确认 AIDE 安装已完成。

结果

您的 AI Data Engine 多节点部署已部署并连接到 NetApp Console。您现在可以 "连接数据源" 开始扫描。

安装后检查代理

AI Data Engine 操作员记录其使用的代理。日志中从不包含密码。要检查代理,请从可以访问集群的主机运行以下命令。将 `<kubeconfig>`替换为 kubeconfig 文件的路径:

kubectl --kubeconfig <kubeconfig> -n aide logs deploy/aide-operator -c chart-fetcher | grep -m1 'proxy enabled'

如果 kubectl`不在您的 `PATH`上,安装程序已将其下载到工具目录。请改为运行 `<tools-dir>/kubectl。默认的工具目录为 /opt/netapp/aide/.aide-installer-tools。

该行显示代理端点、身份验证是否已启用以及 CA 证书是否已挂载。