deep-learning - Caffe - 如何使用 pycaffe 更改 caffe 权重的数据类型？

Question

我有一个预训练的 faster-rcnn caffemodel。我可以使用 net.params[pr][0].data 获取模型的权重。到目前为止，权重是 numpy float32 类型。我想将它减少到 float 16 只是为了减少模型的大小。

Answer 1

要更改权重的类型以节省存储内存，您可以使用 NumPy 的 astype (float16)，例如

net.params[pr][0].data = net.params[pr][0].data.astype(numpy.float16)

但是 Caffe 在推理/训练时不支持它，因此您需要将其重新转换为 float32。然而，有一些支持 float16 的 caffe 存储库，例如 Ristretto , 或 NVCaffe适用于 NVidia/Intel 的 clCaffe适用于英特尔 GPU 上的 OpenCL。