python - 在 Keras 中将循环层与致密层合并

Question

我想构建一个神经网络，其中前两层是前馈层，最后一层是循环层。这是我的代码:

model = Sequential()
model.add(Dense(150, input_dim=23,init='normal',activation='relu'))
model.add(Dense(80,activation='relu',init='normal'))
model.add(SimpleRNN(2,init='normal')) 
adam =OP.Adam(lr=0.001, beta_1=0.9, beta_2=0.999, epsilon=1e-08)
model.compile(loss="mean_squared_error", optimizer="rmsprop")  

我得到这个错误:

Exception: Input 0 is incompatible with layer simplernn_11: expected  ndim=3, found ndim=2.
model.compile(loss='mse', optimizer=adam)

Answer 1

正确的是，在 Keras 中，RNN 层期望输入为 (nb_samples, time_steps, input_dim)。然而，如果你想在 Dense 层之后添加 RNN 层，你仍然可以在 reshape RNN 层的输入后这样做。 Reshape 既可以用作顺序模型中的第一层，也可以用作中间层。示例如下:

在顺序模型中 reshape 为第一层

model = Sequential()
model.add(Reshape((3, 4), input_shape=(12,)))
# now: model.output_shape == (None, 3, 4)
# note: `None` is the batch dimension

在顺序模型中 reshape 为中间层

model.add(Reshape((6, 2)))
# now: model.output_shape == (None, 6, 2)

例如，如果您按以下方式更改代码，则不会出现错误。我已经检查过它并且编译的模型没有报告任何错误。您可以根据需要更改尺寸。

from keras.models import Sequential
from keras.layers import Dense, SimpleRNN, Reshape
from keras.optimizers import Adam

model = Sequential()
model.add(Dense(150, input_dim=23,init='normal',activation='relu'))
model.add(Dense(80,activation='relu',init='normal'))
model.add(Reshape((1, 80)))
model.add(SimpleRNN(2,init='normal')) 
adam = Adam(lr=0.001, beta_1=0.9, beta_2=0.999, epsilon=1e-08)
model.compile(loss="mean_squared_error", optimizer="rmsprop")