python - 将 PyTorch 模型 state_dict 保存到 redis 缓存中

Question

我正在构建分布式参数/服务器类型架构，并希望通过 Azure 上的表解决方案传达模型更新。

我很难找到有关将 PyTorch 模型 state_dict 保存到 Redis 缓存中的任何有用信息。由于每个实体的大小限制 (64kb)，我放弃了 Azure Cosmos 表，并转向 Redis，因为模型 state_dict 参数/权重要大得多，即使对于小型模型也是如此。

有人对我如何实现这一目标有任何建议吗？或者这是否可能？

Answer 1

我的解决方案(在 @GuyKorland 上面评论之后)是 RedisAI。

我为模型数据实现了键值机制，并以这种方式在虚拟机之间进行通信。

for name, param in model.named_parameters():
    redisai_client.tensorset(f'{name}',param.data.numpy().cpu().detach())