速度和延迟之间的差异

Question

我认为延迟是指受某个时间常数限制时的执行“速度”（这个 function 完成执行的时间不能超过 X 毫秒），但我不太了解两者之间的区别。 更快的 function 延迟不是更低吗？ 降低延迟不会提高速度吗？ 这些概念不是相互暗示吗？

我已经尝试阅读这两个概念的定义，但还没有真正理解，所以，为了更好地理解两者之间的区别，你能否提供一个现实世界的问题在哪里（以及为什么）：

• 试图提高解决方案的速度会增加其延迟？
• 试图减少解决方案的延迟会降低其速度？

另外，我感觉这两个概念在网络世界和传统的“执行速度”（例如在高频交易中）的含义略有不同。 那正确吗？

Answer 1

尝试提高解决方案的速度会增加其延迟的真实示例

• 你有一辆赛车，想要让它更快。 因此，您增加变速箱比率，以便它可以更快地达到最大允许转速/秒。 不幸的是，这意味着汽车难以加速并且需要更长的时间才能加速（更糟糕的延迟）。

尝试减少延迟会降低速度的真实示例

• 您希望通过添加更多并行工作人员并将请求循环发送给不同工作人员来减少响应请求的延迟。 但是这样做之前每个具有热缓存的工作人员不再这样做，因为它没有处理 memory 中附近的先前请求，因此最终需要更长的时间（更少的吞吐量/速度）。