c++ - 选择任一循环作为外循环是否有优势？

Question

我正在扩展现有的日志库。这是一个有两个方面的系统:前端是任务将日志消息写入的地方，后端是应用程序可以插入监听器的地方，监听器将这些消息转发到不同的接收器。后端曾经是一个硬连线的监听器，我现在正在扩展它以提高灵 active 。该代码将专门用于嵌入式设备，其中高性能(以每毫秒转发的字节数衡量)是一个非常重要的设计和实现目标。

出于性能原因，消息被缓冲，并且转发在后台任务中完成。该任务从队列中获取大量消息，将它们全部格式化，然后通过注册函数将它们传递给监听器。这些监听器将过滤 消息，并且只会将那些通过过滤条件的消息写入其接收器。

鉴于此，我最终拥有 N 通知函数(监听器)来发送 M 消息，一个相当经典的 N*M问题。现在我有两种可能性:我可以遍历消息，然后遍历通知函数，将消息传递给每个函数。

for(m in formatted_messages) 
  for(n in notification_functions)
    n(m);

void n(message)
{
    if( filter(message) )
      write(message);
}

或者我可以遍历所有的通知函数，并一次将我拥有的所有消息传递给它们:

for(n in notification_functions)
    n(formatted_messages);

void n(messages)
{
  for(m in messages)
    if( filter(m) )
      write(m);
}

对于哪种设计更有可能允许每个时间片处理更多的消息，是否有任何基本考虑？ (注意这个问题是如何决定监听器的接口(interface)的。这不是一个微优化问题，而是一个关于如何进行不影响性能的设计的问题。我只能在很久以后才能测量，然后重新设计监听器接口(interface)将是昂贵的.)

我已经做了一些考虑:

• 那些监听器需要将消息写入某个地方，这相当昂贵，因此函数调用本身可能在性能方面不太重要。
• 在 95% 的情况下，只有一位听众。

Answer 1

Is there any fundamental considerations regarding which design is more likely to allow a higher number of messages to be processed per time slice?

一般来说，与此相关的主要考虑因素通常归结为两个主要方面。

1. 如果您的循环中的一个循环遍历可能具有良好内存局部性的对象(例如循环遍历一组值)，则将该部分保留在内部循环中可能会将对象保留在 CPU 缓存中，并提高性能。

2. 如果您打算尝试并行化操作，在外循环中保持“更大”(以计数计)集合可以让您有效地并行化外循环，并且不会导致线程订阅过多等. 在外层并行化算法通常更简单、更清晰，因此在外层循环设计具有潜在更大并行工作“ block ”的循环可以简化这一点，如果以后有可能的话。

Those listeners need to write the messages somewhere, which is rather expensive, so the function calls by themselves might not be too important performance-wise.

这可能会完全抵消将一个循环移到另一个循环之外的任何好处。

In 95% of all cases, there will only be one listener.

如果是这种情况，我可能会将监听器循环置于外部范围，除非您计划并行化此操作。鉴于这将在嵌入式设备上的后台线程中运行，并行化是不可能的，因此将监听器循环作为外部循环应该减少总指令数(它实际上变成了 M 个操作的循环，而不是 M 个循环一次操作)。