在这种情况下，所有数据都可供服务器使用，并且测量了处理所有样本所需的时间。我们将每秒样本的带宽作为测试结果进行报告。当使用多台计算服务器时，我们会报告所有服务器的总带宽。下图显示了所有三个用例的结果。对于双服务器的情况，我们报告两台服务器的组合带宽。

结果表明，网络存储不会对性能产生负面影响——变化很小，对于某些任务来说，没有发现任何变化。当添加第二台服务器时，总带宽要么正好翻倍，要么在最坏的情况下，变化小于 1%。

该基准测量延迟。对于多计算服务器的情况，我们报告平均延迟。下图给出了这组任务的结果。对于双服务器的情况，我们报告两台服务器的平均延迟。

结果再次表明，网络存储足以处理这些任务。在一台服务器的情况下，本地存储和网络存储之间的差异很小或者没有。类似地，当两台服务器使用相同的存储时，两台服务器上的延迟保持不变或变化很小。

在这种情况下，结果是系统在满足 QoS 约束的同时可以处理的流的数量。因此，结果始终是一个整数。对于多台服务器，我们报告所有服务器上的流总数。并非所有工作负载都支持此场景，但我们执行了支持此场景的工作负载。下图总结了我们的测试结果。对于双服务器的情况，我们报告来自两个服务器的流的总数。

结果显示该设置的性能完美——本地和网络存储给出相同的结果，并且添加第二台服务器使建议的设置可以处理的流数量增加一倍。

我们进行了大量的测试来评估所提出的架构的性能。有六种不同的工作负载（图像分类、对象检测[小]、对象检测[大]、医学成像、语音转文本和自然语言处理[NLP]），它们在两种不同的场景中运行：离线和单流。结果在以下章节中描述。