日本語は機械翻訳による参考訳です。内容に矛盾や不一致があった場合には、英語の内容が優先されます。

Triton Inference Server から推論指標を収集します

寄稿者 このページの PDF をダウンロード

Triton Inference Server は、 GPU と要求の統計を示す Prometheus 指標を提供します。

デフォルトでは、これらの指標はにあります "http://<triton_inference_server_IP>:8002/metrics"

Triton Inference Server IP は、以前に記録されたロードバランサ IP です。

指標はエンドポイントにアクセスすることでのみ使用でき、リモートサーバにプッシュされたり公開されたりすることはありません。

エラー:グラフィックイメージがありません

エラー:グラフィックイメージがありません