keras - DepthwiseConv2D 和 SeparableConv2D 的区别

Question

从文档中，我知道SeparableConv2D是深度和逐点操作的组合。然而，当我打电话

SeparableConv2D(100, 5, input_shape=(416,416,10) 

# total parameters is 1350

model.add(DepthwiseConv2D(5, input_shape=(416,416,10)))
model.add(Conv2D(100, 1))

# total parameters is 1360

是不是意思 SeparableConv2D默认情况下不使用深度阶段的偏差？

谢谢。

Answer 1

正确，检查源代码(我为 tf.keras 做了这个，但我想它对于独立的 keras 是一样的)显示在 SeparableConv2D 中，可分离卷积只使用过滤器，没有偏置，最后添加一个偏置向量。另一方面，第二个版本对 DepthwiseConv2D 都有偏见。和 Conv2D .

鉴于卷积是一个线性运算，并且您在深度和 1x1 卷积之间没有使用非线性，我认为在这种情况下没有必要使用两个偏差，类似于在后面的层中不使用偏差的方式例如，批量标准化。因此，额外的 10 个参数实际上不会改进模型(它们也不应该真正受到伤害)。