Skip to main content
NetApp Solutions
本繁體中文版使用機器翻譯,譯文僅供參考,若與英文版本牴觸,應以英文版本為準。

部署支援中心意見分析

貢獻者

部署解決方案包括下列元件:

  1. NetApp DataOps工具套件

  2. NGC組態

  3. NVIDIA Riva伺服器

  4. NVIDIA TAO工具套件

  5. 將TAO模型匯出至Riva

若要執行部署、請完成下列步驟:

NetApp DataOps Toolkit:支援中心意見分析

以使用 "NetApp DataOps工具套件"、完成下列步驟:

  1. 子母畫面安裝工具套件。

    python3 -m pip install netapp-dataops-traditional
  2. 設定資料管理

    netapp_dataops_cli.py config

NGC組態:支援中心意見分析

以設定 "NVIDIA NGC"、完成下列步驟:

  1. 下載NGC。

    wget -O ngccli_linux.zip https://ngc.nvidia.com/downloads/ngccli_linux.zip && unzip -o ngccli_linux.zip && chmod u+x ngc
  2. 將目前目錄新增至路徑。

    echo "export PATH=\"\$PATH:$(pwd)\"" >> ~/.bash_profile && source ~/.bash_profile
  3. 您必須設定NGC CLI以供使用、才能執行命令。輸入下列命令、並在出現提示時輸入您的API金鑰。

    ngc config set

若為非Linux型作業系統、請造訪 "請按這裡"

NVIDIA Riva伺服器:支援中心意見分析

以設定 "NVIDIA Riva"、完成下列步驟:

  1. 從NGC下載Riva檔案。

    ngc registry resource download-version nvidia/riva/riva_quickstart:1.4.0-beta
  2. 初始化Riva設定('Riva_init.sh')。

  3. 啟動Riva伺服器(「Riva_start.sh」)。

  4. 啟動Riva用戶端('Riva_start_client.sh')。

  5. 在Riva用戶端中、安裝音訊處理程式庫( "FFmpeg"

    apt-get install ffmpeg
  6. 啟動 "Jupyter" 伺服器:

  7. 執行Riva Inference Pipeline Notebook。

NVIDIA TAO工具套件:支援中心意見分析

若要設定NVIDIA TAO工具套件、請完成下列步驟:

  1. 準備並啟動 "虛擬化環境" 適用於TAO工具套件。

  2. 安裝 "必要的套件"

  3. 手動拉出訓練和微調期間使用的影像。

    docker pull nvcr.io/nvidia/tao/tao-toolkit-pyt:v3.21.08-py3
  4. 啟動 "Jupyter" 伺服器:

  5. 執行TAO微調筆記型電腦。

將TAO模式匯出至Riva:支援中心情緒分析

以供使用 "TAO工具套件模組:Riva"、完成下列步驟:

  1. 儲存TAO微調筆記型電腦的機型。

  2. 將受過訓練的TAO模型複製到Riva模型目錄。

  3. 啟動Riva伺服器(「Riva_start.sh」)。

部署障礙

以下是您開發自己解決方案時必須謹記的幾點事項:

  • 首先安裝NetApp DataOps Toolkit、以確保資料儲存系統以最佳方式執行。

  • 必須先安裝NVIDIA NGC、才能驗證影像和機型的下載。

  • Riva必須在TAO工具套件之前安裝。Riva安裝會將Docker精靈設定為視需要擷取影像。

  • DGX和Docker必須能夠存取網際網路才能下載模型。