gpt4 book ai didi

performance - 监控所有 API 响应时间的服务质量,哪个更接近中值、跨度 5-95 或上 95?

转载 作者:行者123 更新时间:2023-12-01 05:16:47 24 4
gpt4 key购买 nike

我想监控 API 的响应时间。我可以使用平均值、中位数和其他方法进行监控。但是我在使用这些方法时面临以下问题:

平均值问题

如果其中一项请求花费了很长时间。例如,在给定的集合中,由于值 1000,平均值将变高。
S1= [ 1 , 1, 1, 2, 2, 2, 2, 2, 2, 2, 2, 1000]

中位数问题

它的正确值最多只有 50%。例如在给定的集合中 S2=[2,2,2,2,2,50,50,50,50]。中值给出了值 2,但大多数用户都面临着缓慢的响应。

5-95 跨度问题 ( http://steveakers.com/2013/08/01/span-vs-median-for-response-time-monitors/ )

在上面的文章中,作者建议使用值 uppser95-uppser5。
但是,如果响应时间如下,则不会生成警报:
s3=[50,50,50,50,50]。在这种情况下,所有 API 都响应缓慢。但跨度 5-95 为零。

我正在考虑使用这两个值中的任何一个。
upper95 或 (upper95+upper5)/2。

哪一个会更好,为什么?有没有更好的方法来计算 QOS?

最佳答案

您列出了三个测量值:

  • 平均(平均)响应
  • 平均响应
  • 5-95 跨度响应

  • 请注意,#3 与#1 和#2 的测量值不同!
  • 平均值和中位数为您提供了实际响应时间的度量。这将解决某一类问题。
  • 5-95 跨度告诉您响应时间的程度 变化 .即您的响应时间是否一致。这将引发另一类问题。

  • 您可能需要同时跟踪:绝对响应时间以及方差。前者的最佳方法(平均值与中值,是否剪切异常值)可能取决于您为服务获得的结果。

    关于performance - 监控所有 API 响应时间的服务质量,哪个更接近中值、跨度 5-95 或上 95?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/19526345/

    24 4 0
    Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
    广告合作:1813099741@qq.com 6ren.com