python - Keras model.predict 与 sigmoid 激活和二元交叉熵只返回 0 或 1，而不是概率

Question

我正在 Keras 中使用重叠类预测构建神经网络。据我了解，“sigmoid”激活函数应该返回属于某个类别的概率。但是，当我尝试使用 model.predict(...) 时，它只返回零或一。能否请您告诉我哪里出了问题以及我如何获得属于某个类(class)的概率？

input_stock = Input(shape=input_shape,dtype='float32')  
stock_data= Conv2D(32, (1,5), padding='same', activation='relu')(input_stock)
stock_data = MaxPooling2D((1,2),strides=(1,2))(stock_data)
stock_data= Conv2D(8, (1,5), padding='same', activation='relu')(stock_data)
stock_data = MaxPooling2D((1,5),strides=(1,5))(stock_data)
stock_data= Conv2D(8, (154,5), padding='same', activation='relu')(stock_data)
stock_data = MaxPooling2D((1,2),strides=(1,2))(stock_data)

stock_data=Flatten()(stock_data)
stock_data=Dropout(.5)(stock_data)
output_layer = Dense(maxnumassets, activation='sigmoid')(stock_data)


model = Model(inputs=input_stock, outputs=output_layer)



return model

Output of model.predict (there are 150 classes), looks like below. 

array([[1., 1., 0., 0., 1., 1., 0., 1., 0., 0., 0., 1., 0., 1., 1., 1.,
        0., 0., 1., 1., 0., 0., 1., 0., 0., 1., 0., 0., 0., 0., 1., 0.,
        0., 1., 0., 0., 1., 1., 1., 1., 0., 1., 1., 0., 0., 0., 0., 1.,
        0., 1., 1., 1., 1., 1., 0., 0., 0., 0., 1., 1., 1., 0., 0., 1.,
        0., 0., 0., 1., 1., 0., 0., 0., 0., 0., 0., 0., 0., 1., 1., 1.,
        1., 1., 0., 0., 1., 1., 1., 0., 0., 0., 1., 0., 1., 0., 0., 0.,
        1., 1., 1., 0., 0., 0., 1., 0., 1., 0., 1., 1., 1., 0., 1., 1.,
        0., 0., 1., 1., 1., 0., 0., 0., 0., 1., 1., 0., 1., 1., 1., 1.,
        0., 0., 0., 1., 1., 0., 0., 0., 1., 0., 1., 0., 1., 0., 1., 1.,
        1., 1., 0., 0., 0., 0.]], dtype=float32)'''

Dimensions of the data are as follows:

train (715, 150, 100, 2)
ytrain (715, 150)
xtest (80, 150, 100, 2)
ytest (80, 150)

Answer 1

如果您只是直接使用 model.predict(xtest)，那么您的代码通常会给出 0 和 1 以外的值，请参见。下面的示例只是将您的模型应用于随机数据。

如果您的模型不符合，则可能是您过度拟合，或者您的模型只是完美地拟合了您的数据。尝试将 model.predict 应用于与您的数据无关的数组。

另一件似乎不对劲的事情是，您在示例输出中给出了一个形状为 (1, 150) 的数组，但是如果 xtest.shape 确实是(80, 150, 100, 2)，那么model.predict(xtest).shape就是(80, 150)。

input_shape = (150, 100, 2)
maxnumassets = 150
input_stock = Input(shape=input_shape,dtype='float32')
stock_data = Conv2D(32, (1,5), padding='same', activation='relu')(input_stock)
stock_data = MaxPooling2D((1,2),strides=(1,2))(stock_data)
stock_data = Conv2D(8, (1,5), padding='same', activation='relu')(stock_data)
stock_data = MaxPooling2D((1,5),strides=(1,5))(stock_data)
stock_data = Conv2D(8, (154,5), padding='same', activation='relu')(stock_data)
stock_data = MaxPooling2D((1,2),strides=(1,2))(stock_data)
stock_data = Flatten()(stock_data)
stock_data = Dropout(.5)(stock_data)
output_layer = Dense(maxnumassets, activation='sigmoid')(stock_data)

model = Model(inputs=input_stock, outputs=output_layer)
train = np.random.uniform(size=(775, 150, 100, 2))
ytrain = np.random.uniform(size=(775, 150))
xtest = np.random.uniform(size=(80, 150, 100, 2))
ytest = np.random.uniform(size=(80, 150))

model.compile('adam', 'mse')
model.fit(train, ytrain)
model.predict(xtest)

输出:

array([[0.50180054, 0.49852884, 0.49954456, ..., 0.4990623 , 0.49985167,
        0.4994816 ],
       [0.50180054, 0.49852884, 0.49954456, ..., 0.4990623 , 0.49985167,
        0.4994816 ],
       [0.50180054, 0.49852884, 0.49954456, ..., 0.4990623 , 0.49985167,
        0.4994816 ],
       ...,
       [0.50180054, 0.49852884, 0.49954456, ..., 0.4990623 , 0.49985167,
        0.4994816 ],
       [0.50180054, 0.49852884, 0.49954456, ..., 0.4990623 , 0.49985167,
        0.4994816 ],
       [0.50180054, 0.49852884, 0.49954456, ..., 0.4990623 , 0.49985167,
        0.4994816 ]], dtype=float32)