python - 在 LSTM 中包含分类特征和序列以进行序列预测的最佳实践？

Question

我有一个数据集，其中包含序列和与每个序列关联的分类属性。

为了捕获不同属性之间的序列变化，包含这些分类属性的最佳做法是什么？

一个示例 df

 Sequence      |   Country   |   User  |
[A,B,D,E,F]          USA          U1
[B,C,D,E]            DE           U123
[A,B,F,E,G,H]        USA          U2456
  ...                ...          ....

我想构建一个能够预测序列中下一个事件的 LSTM 模型。

如果我只将序列作为输入，我就知道如何构建 LSTM 模型。

但是我怎样才能同时添加属性 Country 和 User？

如果我对序列数据应用一种热编码，我应该将一种热编码的特征向量连接到它吗？

或者这里还有其他最佳实践吗？

Answer 1

你可以使用functional model API并连接分类特征

例如，您将国家/地区作为分类特征，您可以 concatenate它具有 lstm 功能，如 Concatenate()([lstm, country])

from keras.models import Model
from tensorflow.keraslayers import Input,Concatenate,Dense,Activation

sequence= Input(shape=(seq_length,), name='sequence')
lstm = LSTM(300, dropout=0.3, recurrent_dropout=0.3)(sequence)
country   = Input(shape=(1,))
conc = Concatenate()([lstm, country])
dense_layer = Dense(1)(conc)
x_out= Activation('sigmoid')(dense_layer )
model = Model([sequence, country], x_out)
model.compile(loss='binary_crossentropy', optimizer='adam', metrics['accuracy'])

为了适应模型，假设您已经 reshape 并准备了 sequence 中的序列列和 country 中的其他特征(国家)

 model.fit([sequence,country], y_train)