Skip to main content
日本語は機械翻訳による参考訳です。内容に矛盾や不一致があった場合には、英語の内容が優先されます。

実行中のジョブの送信： AI CLI

共同作成者
PDF

このセクションでは、 Kubernetes ジョブの実行に使用できる基本的な Run ： AI コマンドについて詳しく説明します。ワークロードの種類に応じて 3 つの要素に分割されます。AI / ML / DL のワークロードは、次の 2 つの汎用タイプに分けることができます。

  • * 無人トレーニングセッション * 。このようなタイプのワークロードを扱うことで、データサイエンティストは自己実行ワークロードを準備し、実行のためにワークロードを送信します。実行中に、お客様は結果を確認できます。このタイプのワークロードは、多くの場合、本番環境で使用されます。また、モデル開発が段階で行われるため、手動操作は必要ありません。

  • * インタラクティブビルドセッション * 。このようなワークロードの場合、データサイエンティストは Bash 、 Jupyter Notebook 、リモート PyCharm などの IDE を使用した対話型セッションを開始し、 GPU リソースに直接アクセスします。次に、対話型のワークロードを実行してポートを接続し、コンテナユーザに内部ポートを表示するシナリオを紹介します。

無人トレーニングのワークロード

プロジェクトをセットアップして GPU を割り当てたら、コマンドラインで次のコマンドを使用して Kubernetes のワークロードを実行できます。

$ runai project set team-a runai submit hyper1 -i gcr.io/run-ai-demo/quickstart -g 1

このコマンドは、単一の GPU を割り当てたチーム A の無人トレーニングジョブを開始します。このジョブは、サンプルのDockerイメージに基づいています gcr.io/run-ai-demo/quickstart。私たちはその仕事に名前をつけた hyper1。その後、次のコマンドを実行して、ジョブの進捗状況を監視します。

$ runai list

次の図に、コマンドの結果を示し `runai list`ます。一般的なステータスは次のとおりです。

  • `ContainerCreating`です。Docker コンテナをクラウドリポジトリからダウンロードしています。

  • `Pending`です。ジョブはスケジュールされるのを待っています。

  • `Running`です。ジョブが実行中です。

入力/出力ダイアログを示す図、または書き込まれた内容を表す図

ジョブのステータスをさらに表示するには、次のコマンドを実行します。

$ runai get hyper1

ジョブのログを表示するには、次のコマンドを実行し `runai logs <job-name>`ます。

$ runai logs hyper1

この例では、現在のトレーニングエポック、 ETA 、損失関数値、精度、および各ステップの経過時間を含む、実行中の DL セッションのログを確認する必要があります。

クラスタのステータスは、Run：AI UIで確認できます "https://app.run.ai/"。[ ダッシュボード ]>[ 概要 ] で、 GPU 利用率を監視できます。

このワークロードを停止するには、次のコマンドを実行します。

$ runai delte hyper1

このコマンドを実行すると、トレーニングワークロードが停止します。このアクションは、を再度実行することで確認できます runai list。詳細については、を参照してください "無人トレーニングワークロードの開始"。

ワークロードを対話型に構築

プロジェクトをセットアップして GPU を割り当てたら、コマンドラインで次のコマンドを使用して対話型ビルドワークロードを実行できます。

$ runai submit build1 -i python -g 1 --interactive --command sleep --args infinity

このジョブは、サンプルの Docker イメージ Python に基づいています。ジョブ build1 という名前を付けました。

メモ `-- interactive`フラグは、ジョブに開始または終了がないことを意味します。研究者の責任で業務を終了してください。管理者は、対話型ジョブがシステムによって終了されるまでの時間制限を定義できます。

フラグは --g 1、このジョブに単一のGPUを割り当てます。指定したコマンドと引数はです --command sleep — args infinity。コマンドを指定するか、コンテナを開始してすぐに終了する必要があります。

次のコマンドは、で説明したコマンドと同様に機能し無人トレーニングのワークロードます。

  • runai list：ジョブの名前、ステータス、経過時間、ノード、イメージ、プロジェクト、ユーザ、およびGPUが表示されます。

  • runai get build1:ジョブbuild1の追加ステータスを表示します。

  • runai delete build1:対話型ワークロードbuild1を停止します。コンテナへのbashシェルを取得するには、次のコマンドを実行します。

$ runai bash build1

これにより、コンピュータにシェルが直接挿入されます。データサイエンティストは、コンテナ内でモデルを開発または微調整できます。

クラスタのステータスは、Run：AI UIで確認できます "https://app.run.ai"。詳細については、を参照してください "対話型ビルドワークロードの開始と使用"。

ポートが接続された対話型のワークロード

Run ： AI CLI でコンテナを開始する際に、対話型ビルドワークロードを拡張することで、コンテナユーザに内部ポートを公開できます。これは、クラウド環境、Jupyter Notebooksの操作、または他のマイクロサービスへの接続に役立ちます。 "入力"Kubernetesクラスタの外部からKubernetesサービスへのアクセスを許可します。アクセスを設定するには、どのインバウンド接続がどのサービスに到達するかを定義する一連のルールを作成します。

クラスタ内のサービスへの外部アクセスをより適切に管理するには、クラスタ管理者がLoadBalancerをインストールして設定することを推奨します "入力"。

入力をサービスタイプとして使用するには、次のコマンドを実行して、ワークロード送信時にメソッドタイプとポートを設定します。

$ runai submit test-ingress -i jupyter/base-notebook -g 1 \
  --interactive --service-type=ingress --port 8888 \
  --args="--NotebookApp.base_url=test-ingress" --command=start-notebook.sh

コンテナが正常に起動したら、を実行して、 `runai list`Jupyter Notebookへのアクセスに使用するを確認し `SERVICE URL(S)`ます。URL は、入力エンドポイント、ジョブ名、およびポートで構成されます。

詳細については、を参照してください "ポートが接続されている対話型のビルドワークロードを起動する"。