machine-learning - 您可以仅复制网络前 3 层的权重吗？不完全是微调，但几乎是 reshape

Question

在 caffe 中，我希望仅对使用 ImageNet 数据集训练的 alexnet 架构使用预训练权重，仅用于前两层，并且我想在这两层之后添加一个 softmax 分类器。我想知道如何从包含更大网络结构(真正的“深层”Alexnet 结构)的权重文件中仅提取前两层的权重。

Answer 1

添加到Shai的回答-
如果您不需要完整的权重文件，
为了提取所需层的权重，请使用 net surgery :

net = caffe.Net(prototxt, caffemodel, caffe.TRAIN)
outnet = caffe.Net(predefined_prototxt_with_desired_layers_only, caffe.TRAIN)
layers_to_copy = ['conv1', 'conv2', 'conv3']
for layer in layers_to_copy:
    for i in range(0, len(net.params[layer])): #this is for copying both weights and bias, in case bias exists
        outnet.params[layer][i].data[...]=np.copy(net.params[layer][i].data[...])

outnet.save(new_caffemodel_name)