Skip to main content
NetApp Solutions
本繁體中文版使用機器翻譯,譯文僅供參考,若與英文版本牴觸,應以英文版本為準。

測試計畫

貢獻者

本文件遵循MLPerf推斷v0.7 "程式碼"(MLPerf推斷v1.1) "程式碼""規則"。我們執行MLPerf基準測試、設計用於在邊緣進行推斷、如下表所定義。

區域 工作 模型 資料集 QSL大小 品質 多重串流延遲限制

願景

映像分類

Resnet50v1.5

ImageNet(224x224)

1024.

99%的FP32

50ms

願景

物件偵測(大型)

SSD - ResNet34

可可(1200 x 1200)

64

99%的FP32

66毫秒

願景

物件偵測(小型)

SSD:移動Netsv1

可可(300x300)

256

99%的FP32

50ms

願景

醫療影像分割

3D UNIT

2019年(全年無休、全年無休、每天24小時160)

16

99%和99.9%的FP32

不適用

演講

語音對文字

RNNT

Lithpech開發-乾淨

2513

99%的FP32

不適用

語言

語言處理

Bert

Squad v1.1

10833

99%的FP32

不適用

下表列出Edge基準測試案例。

區域 工作 案例

願景

映像分類

單一串流、離線、多重串流

願景

物件偵測(大型)

單一串流、離線、多重串流

願景

物件偵測(小型)

單一串流、離線、多重串流

願景

醫療影像分割

單一串流、離線

演講

語音對文字

單一串流、離線

語言

語言處理

單一串流、離線

我們使用此驗證所開發的網路儲存架構來執行這些基準測試、並將結果與先前提交給MLPerf之邊緣伺服器上本機執行的結果進行比較。比較的目的是判斷共享儲存設備對推斷效能的影響程度。