python - tensorflow :过滤器与内核和步幅

Question

Python 3.5/Windows 10/tensorflow-gpu 1.12 (GTX 1070)

目标:为 3 channel 图像构建卷积自动编码器

教程来源:https://towardsdatascience.com/autoencoders-introduction-and-implementation-3f40483b0a85

本教程使用 MNIST 数据集，我的图像较大且有 3 个颜色 channel ，但我正在尝试进行相应调整。

令我困惑的一点是:

inputs_ = tf.placeholder(tf.float32, (None, 28, 28, 1), name='inputs')

conv1 = tf.layers.conv2d(inputs=inputs_, filters=32, kernel_size=(3,3), padding='same', activation=tf.nn.relu)
# Now 28x28x32

[28,28,1]是mnist图像的宽高和灰度

我理解 kernel_size 等于过滤器大小 -- 这是正确的吗？ ( https://blog.xrds.acm.org/2016/06/convolutional-neural-networks-cnns-illustrated-explanation/ )

使用此处所示的相同内核/过滤器和跨步理解:

我对导出特征图的理解:

我不会填充上面的图像，并且会得到以下结果:

filter_ct_a, out_shape_a, padding_a = calc_num_filters(shapeXY=[5,5,1], filterXY=[3,3], strideXY=[1,1])
print("# Filters: {}\nNew Shape: {}\n Padding : {}".format(filter_ct_a, out_shape_a, padding_a))
# Filters: 9
New Shape: [3, 3, 1]
 Padding : [0, 0]

假设它已填充:

filter_ct_a, out_shape_a, padding_a = calc_num_filters(shapeXY=[5,5,1], filterXY=[3,3], strideXY=[1,1], paddingXY=[1,1])
print("# Filters: {}\nNew Shape: {}\n Padding : {}".format(filter_ct_a, out_shape_a, padding_a))

5.0
# Filters: 25
New Shape: [5, 5, 1]
 Padding : [1, 1]

<小时/>

我将过滤器的数量解释为图像大小、填充、步幅和内核大小的函数。 (这是正确的吗？)(How to interpret TensorFlow's convolution filter and striding parameters?)

我对这种关系的虚拟计算如下:

def calc_num_filters(shapeXY, filterXY, strideXY=[1,1], paddingXY = [0,0]):
    paddingX = paddingXY[0]
    while True:
        filtersX = 1 + ((shapeXY[0]+2*paddingX-filterXY[0])/strideXY[0])
        if filtersX == int(filtersX):# and filtersX%2 == 0:
            break
        paddingX += 1
        if paddingX >= shapeXY[0]:
            raise "incompatable filter shape X"

    paddingY = paddingXY[1]
    while True:
        filtersY = 1 + ((shapeXY[1]+2*paddingY-filterXY[1])/strideXY[1])
        if filtersY == int(filtersY):# and filtersY%2 == 0:
            break
        paddingY += 1
        if paddingY >= shapeXY[1]:
            raise "incompatable filter shape Y"

    return (int(filtersX*filtersY),[int(filtersX), int(filtersY), shapeXY[2]],  [paddingX, paddingY])

在教程示例中，conv1 将张量大小从 [28, 28, 1] 更改为 [28, 28,32]。我注意到 tf.layers.conv2d 似乎使 channel (或 z-dim)与在所有情况下传递的 filters 值相匹配。

我无法弄清楚这些值如何兼容:28x28 图像，以及 kernel_size=(3,3) 导致 32 个过滤器？

假设步幅 = [1,1]

filter_ct_a, out_shape_a, padding_a = calc_num_filters(shapeXY=[28,28,1], filterXY=[3,3], strideXY=[1,1])
print("# Filters: {}\nNew Shape: {}\n Padding : {}".format(filter_ct_a, out_shape_a, padding_a))

# Filters: 676
New Shape: [26, 26, 1]
 Padding : [0, 0]

使用strideXY=[3,3]:

filter_ct_a, out_shape_a, padding_a = calc_num_filters(shapeXY=[28,28,1], filterXY=[3,3], strideXY=[3,3])
print("# Filters: {}\nNew Shape: {}\n Padding : {}".format(filter_ct_a, out_shape_a, padding_a))
# Filters: 100
New Shape: [10, 10, 1]
 Padding : [1, 1]

如果过滤器(计数)、内核大小、步幅和图像大小按照我理解的方式相关——为什么 tensorflow 在可以导出过滤器计数的情况下要求提供过滤器计数？

Answer 1

过滤器的数量与内核大小、步幅或图像大小完全无关。相反，它是由您使用 filters 参数指定的。例如，当您设置 filters=32 时，这意味着该层将具有 32 个独立 卷积滤波器，从某种意义上说，每个滤波器都将应用于给定图像，其形状为(28, 28, 1) 在您的示例中，并将返回形状 (28, 28) 的特征图(即激活图)(假设 padding= '相同')。因此，所有滤波器结合起来，卷积层的输出将具有(28, 28, 32)的形状。如果您设置了 filter=53，卷积层的输出将具有 (28, 28, 53) 的形状，即每个卷积滤波器有一个特征图。