python - 如何在 Federated Tensorflow 中绘制增量权重的直方图摘要？

Question

我正在分析我在与 FedAvg 联合的 Tensorflow 中实现的方法。我需要为每个客户端传送到服务器的增量权重建立一个直方图。每个客户端分别在 simulation/federated_avaraging.py 中调用，但问题是我无法在其中调用以下 API。 tf.summary.histogram()。任何帮助将不胜感激。

Answer 1

在TFF中，TensorFlow代表“本地计算”；因此，如果您需要一种跨客户端检查某些内容的方法，您需要首先通过 TFF 聚合您想要的值，或者检查 native python 中的返回值。

如果您想使用 TF 操作，我建议使用 tff.federated_collect 内在函数来“收集”服务器上您想要的所有值，然后使用 federated_map一个 TF 函数，它采用这些值并生成您想要的可视化效果。

如果您更愿意在 Python 级别工作，这里有一个简单的选择(这是我会采用的方法):只需从您的 返回客户的培训结果tff.federated_computation;当您调用此计算时，这将具体化这些结果的 Python 列表，您可以根据需要将其可视化。这大致类似于:

@tff.federated_computation(...)
def train_one_round(...):
  ...
  trained_clients = run_training(...)
  new_model = update_global_model(trained_clients,...)
  return new_model, trained_clients

在此示例中，该函数将返回一个元组，其中第二个元素是一个 Python 列表，表示所有客户端的训练结果。