debugging - 如何可视化许多并发多阶段进程的行为？

Question

假设我有大量(连续的)请求要处理，并且每个请求都有几个阶段。例如:“连接数据源”、“从数据源读取数据”、“验证数据”、“处理数据”、“连接数据接收器”、“将结果写入数据接收器”。

哪些可视化方法甚至工具非常适合可视化此类系统的行为？

我希望能够看到哪些阶段需要很长时间，以及不同请求的阶段如何相互对齐(例如，查看数据源在被太多请求访问时响应更长时间一次)。

如果只有几十个请求，我会接受几十个单独的彩色时间线，但对于几千个就不合适了。我想我可以摆脱 N 条彩色时间线，其中 N 是“并发因素”，但是 1)也许有更好的东西，2)也许存在用于此的工具？

附言无耻的插件:一旦我找到了可视化的最佳方式，我就会将它添加到我的漂亮工具 timeplot 中。 ;)

P.P.S.又一个无耻的插件:我决定单独写一个工具:splot .这是它可以做的，基于一个简单的日志和一个 awk 单行:



它显示了一个集群的 160 个核心执行由 RabbitMQ 提供给它们的任务。蓝色是“获取数据”，橙色是“计算”，白色是“什么都不做”。从这张图中可以立即看出几个问题，仅通过查看日志很难发现这些问题。

Answer 1

我有一个多进程软件，它在具有 15 个内核的机器上运行。这就是我所做的。

将所有消息记录到 syslog。最后在 http://www.simile-widgets.org/timeline 上绘制(选定)过去 20 分钟的日志数据.为了密切关注记录的内容和模式，我使用了系统日志查看器。有很多你可以找到适合你的。 http://www.google.com/search?aq=0&oq=syslog+vi&sourceid=chrome&ie=UTF-8&q=syslog+viewer

希望这可以帮助。