machine-learning - 深度学习中CNN的窗口大小如何选择？

Question

在卷积神经网络(CNN)中，选择一个滤波器来共享权重。例如，在下图中，选择了步长(相邻神经元之间的距离)为1的3x3窗口。

所以我的问题是:如何选择窗口大小？如果我使用4x4，步幅为2，会造成多大的差异？预先非常感谢!

Answer 1

对此没有明确的答案:过滤器大小是您通常需要调整的超参数之一。不过，有一些有用的观察结果可能会对您有所帮助。通常首选选择较小的过滤器，但拥有更多数量的过滤器。

示例:四个 5x5 过滤器有 100 个参数(忽略偏差)，而 10 个 3x3 过滤器有 90 个参数。通过较大的过滤器，您仍然可以捕获图像中的各种特征，但参数较少。更多关于此here .

现代 CNN 更进一步地继承了这个想法，并选择连续的 3x1 和 1x3 卷积层。这进一步减少了参数数量，但不影响性能。请参阅evolution of inception network .

步幅的选择也很重要，但它会影响卷积后的张量形状，从而影响整个网络。一般规则是在通常的卷积中使用 stride=1 并通过填充保留空间大小，并在想要对图像进行下采样时使用 stride=2。