- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
在使用 class_weight 解决我的多标签问题时遇到问题。也就是说,每个标签不是0就是1,但是每个输入样本有很多标签。
代码(带有用于 MWE 目的的随机数据):
import tensorflow as tf
from keras.models import Sequential, Model
from keras.layers import Input, Concatenate, LSTM, Dense
from keras import optimizers
from keras.utils import to_categorical
from keras import backend as K
import numpy as np
# from http://www.deepideas.net/unbalanced-classes-machine-learning/
def sensitivity(y_true, y_pred):
true_positives = tf.reduce_sum(tf.round(K.clip(y_true * y_pred, 0, 1)))
possible_positives = tf.reduce_sum(tf.round(K.clip(y_true, 0, 1)))
return true_positives / (possible_positives + K.epsilon())
# from http://www.deepideas.net/unbalanced-classes-machine-learning/
def specificity(y_true, y_pred):
true_negatives = tf.reduce_sum(K.round(K.clip((1-y_true) * (1-y_pred), 0, 1)))
possible_negatives = tf.reduce_sum(K.round(K.clip(1-y_true, 0, 1)))
return true_negatives / (possible_negatives + K.epsilon())
def to_train(a_train, y_train):
hours_np = [np.arange(a_train.shape[1])]*a_train.shape[0]
train_hours = to_categorical(hours_np)
n_samples = a_train.shape[0]
n_classes = 4
features_in = np.zeros((n_samples, n_classes))
supp_feat = np.random.choice(n_classes, n_samples)
features_in[np.arange(n_samples), supp_feat] = 1
#This model has 3 separate inputs
seq_model_in = Input(shape=(1,),batch_shape=(1, 1, a_train.shape[2]), name='seq_model_in')
feat_in = Input(shape=(1,), batch_shape=(1, features_in.shape[1]), name='feat_in')
feat_dense = Dense(1)(feat_in)
hours_in = Input(shape=(1,), batch_shape=(1, 1, train_hours.shape[2]), name='hours_in')
#Model intermediate layers
t_concat = Concatenate(axis=-1)([seq_model_in, hours_in])
lstm_layer = LSTM(1, batch_input_shape=(1, 1, (a_train.shape[2]+train_hours.shape[2])), return_sequences=False, stateful=True)(t_concat)
merged_after_lstm = Concatenate(axis=-1)([lstm_layer, feat_dense]) #may need another Dense() after
dense_merged = Dense(a_train.shape[2], activation="sigmoid")(merged_after_lstm)
#Define input and output to create model, and compile
model = Model(inputs=[seq_model_in, feat_in, hours_in], outputs=dense_merged)
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=[sensitivity, specificity])
class_weights = {0.:1., 1.:118.}
seq_length = 23
#TRAINING (based on http://philipperemy.github.io/keras-stateful-lstm/)
for epoch in range(2):
for i in range(a_train.shape[0]):
y_true_1 = np.expand_dims(y_train[i,:], axis=1)
y_true = np.swapaxes(y_true_1, 0, 1)
#print 'y_true', y_true.shape
for j in range(seq_length-1):
input_1 = np.expand_dims(np.expand_dims(a_train[i][j], axis=1), axis=1)
input_1 = np.reshape(input_1, (1, 1, a_train.shape[2]))
input_2 = np.expand_dims(np.array(features_in[i]), axis=1)
input_2 = np.swapaxes(input_2, 0, 1)
input_3 = np.expand_dims(np.array([train_hours[i][j]]), axis=1)
tr_loss, tr_sens, tr_spec = model.train_on_batch([input_1, input_2, input_3], y_true, class_weight=class_weights)
model.reset_states()
return 0
a_train = np.random.normal(size=(50,24,5625))
y_train = a_train[:, -1, :]
a_train = a_train[:, :-1, :]
y_train[y_train > 0.] = 1.
y_train[y_train < 0.] = 0.
to_train(a_train, y_train)
我收到的错误是:
ValueError: `class_weight` must contain all classes in the data. The classes set([330]) exist in the data but not in `class_weight`.
“set([...])”内的值在每次运行时都会发生变化。但正如我所说,数据中仅有的两个类是 0 和 1;每个样本只有多个标签。例如,一个响应 (y_train) 如下所示:
print y_train[0,:]
#[ 0. 0. 1. ..., 0. 1. 0.]
如何在 Keras 中使用 class_weights
解决多标签问题?
最佳答案
是的。这是 keras 中的一个已知错误 ( issue #8011 )。基本上,keras 代码在确定类的数量时采用 one-hot 编码,而不是多标签序数编码。
# if 2nd dimension is greater than 1, it must be one-hot encoded,
# so let's just get the max index...
if y.shape[1] > 1:
y_classes = y.argmax(axis=1)
除了 set y_true[:, 1] = 1
之外,我现在想不出更好的解决方法,即“保留” 1
位置 y
永远合一。这将导致y_classes = 1
(这是二元分类中的正确值)。
为什么它有效?代码在 y_true[i]
时失败获取类似 [0, 0, ..., 0, 1, ...]
的值带有一些前导零。 Keras 实现(错误地)通过最大元素的索引估计类的数量,结果是一些 j > 1
其中y[i][j] = 1
。这使得Keras引擎认为有超过2个类,因此提供了class_weights
错了。设置y_true[i][1] = 1
确保j <= 1
(因为 np.argmax
选择最小的最大索引),这允许绕过 keras 防护。
关于tensorflow - 多标签二元分类中的 Keras class_weight,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/48254832/
我想将模型及其各自训练的权重从 tensorflow.js 转换为标准 tensorflow,但无法弄清楚如何做到这一点,tensorflow.js 的文档对此没有任何说明 我有一个 manifest
我有一个运行良好的 TF 模型,它是用 Python 和 TFlearn 构建的。有没有办法在另一个系统上运行这个模型而不安装 Tensorflow?它已经经过预训练,所以我只需要通过它运行数据。 我
当执行 tensorflow_model_server 二进制文件时,它需要一个模型名称命令行参数,model_name。 如何在训练期间指定模型名称,以便在运行 tensorflow_model_s
我一直在 R 中使用标准包进行生存分析。我知道如何在 TensorFlow 中处理分类问题,例如逻辑回归,但我很难将其映射到生存分析问题。在某种程度上,您有两个输出向量而不是一个输出向量(time_t
Torch7 has a library for generating Gaussian Kernels在一个固定的支持。 Tensorflow 中有什么可比的吗?我看到 these distribu
在Keras中我们可以简单的添加回调,如下所示: self.model.fit(X_train,y_train,callbacks=[Custom_callback]) 回调在doc中定义,但我找不到
我正在寻找一种在 tensorflow 中有条件打印节点的方法,使用下面的示例代码行,其中每 10 个循环计数,它应该在控制台中打印一些东西。但这对我不起作用。谁能建议? 谢谢,哈米德雷萨, epsi
我想使用 tensorflow object detection API 创建我自己的 .tfrecord 文件,并将它们用于训练。该记录将是原始数据集的子集,因此模型将仅检测特定类别。我不明白也无法
我在 TensorFlow 中训练了一个聊天机器人,想保存模型以便使用 TensorFlow.js 将其部署到 Web。我有以下内容 checkpoint = "./chatbot_weights.c
我最近开始学习 Tensorflow,特别是我想使用卷积神经网络进行图像分类。我一直在看官方仓库中的android demo,特别是这个例子:https://github.com/tensorflow
我目前正在研究单图像超分辨率,并且我设法卡住了现有的检查点文件并将其转换为 tensorflow lite。但是,使用 .tflite 文件执行推理时,对一张图像进行上采样所需的时间至少是使用 .ck
我注意到 tensorflow 的 api 中已经有批量标准化函数。我不明白的一件事是如何更改训练和测试之间的程序? 批量归一化在测试和训练期间的作用不同。具体来说,在训练期间使用固定的均值和方差。
我创建了一个模型,该模型将 Mobilenet V2 应用于 Google colab 中的卷积基础层。然后我使用这个命令转换它: path_to_h5 = working_dir + '/Tenso
代码取自:- http://adventuresinmachinelearning.com/python-tensorflow-tutorial/ import tensorflow as tf fr
好了,所以我准备在Tensorflow中运行 tf.nn.softmax_cross_entropy_with_logits() 函数。 据我了解,“logit”应该是概率的张量,每个对应于某个像素的
tensorflow 服务构建依赖于大型 tensorflow ;但我已经成功构建了 tensorflow。所以我想用它。我做这些事情:我更改了 tensorflow 服务 WORKSPACE(org
Tensoflow 嵌入层 ( https://www.tensorflow.org/api_docs/python/tf/keras/layers/Embedding ) 易于使用, 并且有大量的文
我正在尝试使用非常大的数据集(比我的内存大得多)训练 Tensorflow 模型。 为了充分利用所有可用的训练数据,我正在考虑将它们分成几个小的“分片”,并一次在一个分片上进行训练。 经过一番研究,我
根据 Sutton 的书 - Reinforcement Learning: An Introduction,网络权重的更新方程为: 其中 et 是资格轨迹。 这类似于带有额外 et 的梯度下降更新。
如何根据条件选择执行图表的一部分? 我的网络有一部分只有在 feed_dict 中提供占位符值时才会执行.如果未提供该值,则采用备用路径。我该如何使用 tensorflow 来实现它? 以下是我的代码
我是一名优秀的程序员,十分优秀!