- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
在使用 class_weight 解决我的多标签问题时遇到问题。也就是说,每个标签不是0就是1,但是每个输入样本有很多标签。
代码(带有用于 MWE 目的的随机数据):
import tensorflow as tf
from keras.models import Sequential, Model
from keras.layers import Input, Concatenate, LSTM, Dense
from keras import optimizers
from keras.utils import to_categorical
from keras import backend as K
import numpy as np
# from http://www.deepideas.net/unbalanced-classes-machine-learning/
def sensitivity(y_true, y_pred):
true_positives = tf.reduce_sum(tf.round(K.clip(y_true * y_pred, 0, 1)))
possible_positives = tf.reduce_sum(tf.round(K.clip(y_true, 0, 1)))
return true_positives / (possible_positives + K.epsilon())
# from http://www.deepideas.net/unbalanced-classes-machine-learning/
def specificity(y_true, y_pred):
true_negatives = tf.reduce_sum(K.round(K.clip((1-y_true) * (1-y_pred), 0, 1)))
possible_negatives = tf.reduce_sum(K.round(K.clip(1-y_true, 0, 1)))
return true_negatives / (possible_negatives + K.epsilon())
def to_train(a_train, y_train):
hours_np = [np.arange(a_train.shape[1])]*a_train.shape[0]
train_hours = to_categorical(hours_np)
n_samples = a_train.shape[0]
n_classes = 4
features_in = np.zeros((n_samples, n_classes))
supp_feat = np.random.choice(n_classes, n_samples)
features_in[np.arange(n_samples), supp_feat] = 1
#This model has 3 separate inputs
seq_model_in = Input(shape=(1,),batch_shape=(1, 1, a_train.shape[2]), name='seq_model_in')
feat_in = Input(shape=(1,), batch_shape=(1, features_in.shape[1]), name='feat_in')
feat_dense = Dense(1)(feat_in)
hours_in = Input(shape=(1,), batch_shape=(1, 1, train_hours.shape[2]), name='hours_in')
#Model intermediate layers
t_concat = Concatenate(axis=-1)([seq_model_in, hours_in])
lstm_layer = LSTM(1, batch_input_shape=(1, 1, (a_train.shape[2]+train_hours.shape[2])), return_sequences=False, stateful=True)(t_concat)
merged_after_lstm = Concatenate(axis=-1)([lstm_layer, feat_dense]) #may need another Dense() after
dense_merged = Dense(a_train.shape[2], activation="sigmoid")(merged_after_lstm)
#Define input and output to create model, and compile
model = Model(inputs=[seq_model_in, feat_in, hours_in], outputs=dense_merged)
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=[sensitivity, specificity])
class_weights = {0.:1., 1.:118.}
seq_length = 23
#TRAINING (based on http://philipperemy.github.io/keras-stateful-lstm/)
for epoch in range(2):
for i in range(a_train.shape[0]):
y_true_1 = np.expand_dims(y_train[i,:], axis=1)
y_true = np.swapaxes(y_true_1, 0, 1)
#print 'y_true', y_true.shape
for j in range(seq_length-1):
input_1 = np.expand_dims(np.expand_dims(a_train[i][j], axis=1), axis=1)
input_1 = np.reshape(input_1, (1, 1, a_train.shape[2]))
input_2 = np.expand_dims(np.array(features_in[i]), axis=1)
input_2 = np.swapaxes(input_2, 0, 1)
input_3 = np.expand_dims(np.array([train_hours[i][j]]), axis=1)
tr_loss, tr_sens, tr_spec = model.train_on_batch([input_1, input_2, input_3], y_true, class_weight=class_weights)
model.reset_states()
return 0
a_train = np.random.normal(size=(50,24,5625))
y_train = a_train[:, -1, :]
a_train = a_train[:, :-1, :]
y_train[y_train > 0.] = 1.
y_train[y_train < 0.] = 0.
to_train(a_train, y_train)
我收到的错误是:
ValueError: `class_weight` must contain all classes in the data. The classes set([330]) exist in the data but not in `class_weight`.
“set([...])”内的值在每次运行时都会发生变化。但正如我所说,数据中仅有的两个类是 0 和 1;每个样本只有多个标签。例如,一个响应 (y_train) 如下所示:
print y_train[0,:]
#[ 0. 0. 1. ..., 0. 1. 0.]
如何在 Keras 中使用 class_weights
解决多标签问题?
最佳答案
是的。这是 keras 中的一个已知错误 ( issue #8011 )。基本上,keras 代码在确定类的数量时采用 one-hot 编码,而不是多标签序数编码。
# if 2nd dimension is greater than 1, it must be one-hot encoded,
# so let's just get the max index...
if y.shape[1] > 1:
y_classes = y.argmax(axis=1)
除了 set y_true[:, 1] = 1
之外,我现在想不出更好的解决方法,即“保留” 1
位置 y
永远合一。这将导致y_classes = 1
(这是二元分类中的正确值)。
为什么它有效?代码在 y_true[i]
时失败获取类似 [0, 0, ..., 0, 1, ...]
的值带有一些前导零。 Keras 实现(错误地)通过最大元素的索引估计类的数量,结果是一些 j > 1
其中y[i][j] = 1
。这使得Keras引擎认为有超过2个类,因此提供了class_weights
错了。设置y_true[i][1] = 1
确保j <= 1
(因为 np.argmax
选择最小的最大索引),这允许绕过 keras 防护。
关于tensorflow - 多标签二元分类中的 Keras class_weight,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/48254832/
我想做的是让 JTextPane 在 JPanel 中占用尽可能多的空间。对于我使用的 UpdateInfoPanel: public class UpdateInfoPanel extends JP
我在 JPanel 中有一个 JTextArea,我想将其与 JScrollPane 一起使用。我正在使用 GridBagLayout。当我运行它时,框架似乎为 JScrollPane 腾出了空间,但
我想在 xcode 中实现以下功能。 我有一个 View Controller 。在这个 UIViewController 中,我有一个 UITabBar。它们下面是一个 UIView。将 UITab
有谁知道Firebird 2.5有没有类似于SQL中“STUFF”函数的功能? 我有一个包含父用户记录的表,另一个表包含与父相关的子用户记录。我希望能够提取用户拥有的“ROLES”的逗号分隔字符串,而
我想使用 JSON 作为 mirth channel 的输入和输出,例如详细信息保存在数据库中或创建 HL7 消息。 简而言之,输入为 JSON 解析它并输出为任何格式。 最佳答案 var objec
通常我会使用 R 并执行 merge.by,但这个文件似乎太大了,部门中的任何一台计算机都无法处理它! (任何从事遗传学工作的人的附加信息)本质上,插补似乎删除了 snp ID 的 rs 数字,我只剩
我有一个以前可能被问过的问题,但我很难找到正确的描述。我希望有人能帮助我。 在下面的代码中,我设置了varprice,我想添加javascript变量accu_id以通过rails在我的数据库中查找记
我有一个简单的 SVG 文件,在 Firefox 中可以正常查看 - 它的一些包装文本使用 foreignObject 包含一些 HTML - 文本包装在 div 中:
所以我正在为学校编写一个 Ruby 程序,如果某个值是 1 或 3,则将 bool 值更改为 true,如果是 0 或 2,则更改为 false。由于我有 Java 背景,所以我认为这段代码应该有效:
我做了什么: 我在这些账户之间创建了 VPC 对等连接 互联网网关也连接到每个 VPC 还配置了路由表(以允许来自双方的流量) 情况1: 当这两个 VPC 在同一个账户中时,我成功测试了从另一个 La
我有一个名为 contacts 的表: user_id contact_id 10294 10295 10294 10293 10293 10294 102
我正在使用 Magento 中的新模板。为避免重复代码,我想为每个产品预览使用相同的子模板。 特别是我做了这样一个展示: $products = Mage::getModel('catalog/pro
“for”是否总是检查协议(protocol)中定义的每个函数中第一个参数的类型? 编辑(改写): 当协议(protocol)方法只有一个参数时,根据该单个参数的类型(直接或任意)找到实现。当协议(p
我想从我的 PHP 代码中调用 JavaScript 函数。我通过使用以下方法实现了这一点: echo ' drawChart($id); '; 这工作正常,但我想从我的 PHP 代码中获取数据,我使
这个问题已经有答案了: Event binding on dynamically created elements? (23 个回答) 已关闭 5 年前。 我有一个动态表单,我想在其中附加一些其他 h
我正在尝试找到一种解决方案,以在 componentDidMount 中的映射项上使用 setState。 我正在使用 GraphQL连同 Gatsby返回许多 data 项目,但要求在特定的 pat
我在 ScrollView 中有一个 View 。只要用户按住该 View ,我想每 80 毫秒调用一次方法。这是我已经实现的: final Runnable vibrate = new Runnab
我用 jni 开发了一个 android 应用程序。我在 GetStringUTFChars 的 dvmDecodeIndirectRef 中得到了一个 dvmabort。我只中止了一次。 为什么会这
当我到达我的 Activity 时,我调用 FragmentPagerAdapter 来处理我的不同选项卡。在我的一个选项卡中,我想显示一个 RecyclerView,但他从未出现过,有了断点,我看到
当我按下 Activity 中的按钮时,会弹出一个 DialogFragment。在对话框 fragment 中,有一个看起来像普通 ListView 的 RecyclerView。 我想要的行为是当
我是一名优秀的程序员,十分优秀!