tensorflow - 在密集层之前 reshape 3D 张量

Question

给定张量 shape=[batch_size, max_time, 128] (RNN 的输出)，其中 max_time可能会有所不同，我想应用一个全连接层将数据投影到 [batch_size, max_time, 10]形状。

问题是:我是否需要先对输入 Tensor 进行整形，合并前两个维度，然后应用 tf.layers.dense，然后再整形回 3D？或者我可以简单地在 3D 张量上使用 tf.layers.dense 来获得等效的效果吗？

我希望为 128 个 RNN 单元和 10 个输出类之间的所有连接共享一个权重矩阵，同时允许可变长度 max_time每批。

Answer 1

经过进一步调查，看来这两个选项是等价的。

Dense.call() 方法检查维数。如果这大于 2，则它计算输入和权重之间的 tensordot(对应于 numpy.tensordot 的操作)，选择输入中的最后一个维度和权重中的第一个维度作为轴。否则，它将应用标准矩阵乘法 (matmul)。

Source