个人中心
文章发布
退出
作者热门文章
- ubuntu12.04环境下使用kvm ioctl接口实现最简单的虚拟机
- Ubuntu 通过无线网络安装Ubuntu Server启动系统后连接无线网络的方法
- 在Ubuntu上搭建网桥的方法
- ubuntu 虚拟机上网方式及相关配置详解
26
4
CFSDN坚持开源创造价值，我们致力于搭建一个资源共享平台，让每一个IT人在这里找到属于你的精彩世界.
这篇CFSDN的博客文章Keras SGD 随机梯度下降优化器参数设置方式由作者收集整理，如果你对这篇文章有兴趣，记得点赞哟.
SGD 随机梯度下降 。
Keras 中包含了各式优化器供我们使用，但通常我会倾向于使用 SGD 验证模型能否快速收敛，然后调整不同的学习速率看看模型最后的性能，然后再尝试使用其他优化器.
Keras 中文文档中对 SGD 的描述如下:
keras.optimizers.SGD(lr=0.01, momentum=0.0, decay=0.0, nesterov=False) 。
随机梯度下降法，支持动量参数，支持学习衰减率，支持Nesterov动量 。
参数:
lr：大或等于0的浮点数，学习率 。
momentum：大或等于0的浮点数，动量参数 。
decay：大或等于0的浮点数，每次更新后的学习率衰减值 。
nesterov：布尔值，确定是否使用Nesterov动量 。
参数设置 。
Time-Based Learning Rate Schedule 。
Keras 已经内置了一个基于时间的学习速率调整表，并通过上述参数中的 decay 来实现，学习速率的调整公式如下:
LearningRate = LearningRate * 1/(1 + decay * epoch) 。
当我们初始化参数为:
LearningRate = 0.1 decay = 0.001 。
大致变化曲线如下（非实际曲线，仅示意）:
当然，方便起见，我们可以将优化器设置如下，使其学习速率随着训练轮次变化:
sgd = SGD(lr=learning_rate, decay=learning_rate/nb_epoch, momentum=0.9, nesterov=True) 。
Drop-Based Learning Rate Schedule 。
另外一种学习速率的调整方法思路是保持一个恒定学习速率一段时间后立即降低，是一种突变的方式。通常整个变化趋势为指数形式.
对应的学习速率变化公式如下:
LearningRate = InitialLearningRate * DropRate^floor(Epoch / EpochDrop) 。
实现需要使用 Keras 中的 LearningRateScheduler 模块:
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|
from
keras.callbacks
import
LearningRateScheduler
# learning rate schedule
def
step_decay(epoch):
initial_lrate
=
0.1
drop
=
0.5
epochs_drop
=
10.0
lrate
=
initial_lrate
*
math.
pow
(drop, math.floor((
1
+
epoch)
/
epochs_drop))
return
lrate
lrate
=
LearningRateScheduler(step_decay)
# Compile model
sgd
=
SGD(lr
=
0.0
, momentum
=
0.9
, decay
=
0.0
, nesterov
=
False
)
model.
compile
(loss
=
..., optimizer
=
sgd, metrics
=
[
'accuracy'
])
# Fit the model
model.fit(X, Y, ..., callbacks
=
[lrate])
|
补充知识：keras中的BGD和SGD 。
关于BGD和SGD 。
首先BGD为批梯度下降，即所有样本计算完毕后才进行梯度更新；而SGD为随机梯度下降，随机计算一次样本就进行梯度下降，所以速度快很多但容易陷入局部最优值.
折中的办法是采用小批的梯度下降，即把数据分成若干个批次，一批来进行一次梯度下降，减少随机性，计算量也不是很大。 mini-batch 。
keras中的batch_size就是小批梯度下降.
以上这篇Keras SGD 随机梯度下降优化器参数设置方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持我.
原文链接：https://blog.csdn.net/u012862372/article/details/80319166 。
最后此篇关于Keras SGD 随机梯度下降优化器参数设置方式的文章就讲到这里了,如果你想了解更多关于Keras SGD 随机梯度下降优化器参数设置方式的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！ 。
26
4
0
我有兴趣在 tf.keras 中训练一个模型，然后用 keras 加载它。我知道这不是高度建议，但我对使用 tf.keras 来训练模型很感兴趣，因为 tf.keras 更容易构建输入管道 我想利用
我进行了大量搜索，但仍然无法弄清楚如何编写具有多个交互输出的自定义损失函数。 我有一个神经网络定义为: def NeuralNetwork(): inLayer = Input((2,));
我正在阅读一篇名为 Differential Learning Rates 的文章在 Medium 上，想知道这是否可以应用于 Keras。我能够找到在 pytorch 中实现的这项技术。这可以在 K
我正在实现一个神经网络分类器，以打印我正在使用的这个神经网络的损失和准确性: score = model.evaluate(x_test, y_test, verbose=False) model.m
我最近在查看模型摘要时遇到了这个问题。 我想知道，[(None, 16)] 和有什么区别？和 (None, 16) ?为什么输入层有这样的输入形状？ 来源:model.summary() can't
我正在尝试使用 Keras 创建自定义损失函数。我想根据输入计算损失函数并预测神经网络的输出。 我尝试在 Keras 中使用 customloss 函数。我认为 y_true 是我们为训练提供的输出，
我有一组样本，每个样本都是一组属性的序列(例如，一个样本可以包含 10 个序列，每个序列具有 5 个属性)。属性的数量总是固定的，但序列的数量(时间戳)可能因样本而异。我想使用这个样本集在 Keras
Keras 在训练集和测试集文件夹中发现了错误数量的类。我有 3 节课，但它一直说有 4 节课。有人可以帮我吗？ 这里的代码: cnn = Sequential() cnn.add(Conv2D(32
我想编写一个自定义层，在其中我可以在两次运行之间将变量保存在内存中。例如， class MyLayer(Layer): def __init__(self, out_dim = 51, **kwarg
我添加了一个回调来降低学习速度： keras.callbacks.ReduceLROnPlateau(monitor='val_loss', factor=0.5, patience=100,
在 https://keras.io/layers/recurrent/我看到 LSTM 层有一个 kernel和一个 recurrent_kernel .它们的含义是什么？根据我的理解，我们需要 L
问题与标题相同。 我不想打开 Python，而是使用 MacOS 或 Ubuntu。 最佳答案 Python 库作者将版本号放入 .__version__ 。您可以通过在命令行上运行以下命令来打印它:
Keras 文档并不清楚这实际上是什么。我知道我们可以用它来将输入特征空间压缩成更小的空间。但从神经设计的角度来看，这是如何完成的呢？它是一个自动编码器，RBM吗？ 最佳答案 据我所知，嵌入层是一个简
我想实现[http://ydwen.github.io/papers/WenECCV16.pdf]中解释的中心损失]在喀拉斯 我开始创建一个具有 2 个输出的网络，例如: inputs = Input
我正在尝试实现多对一模型，其中输入是大小为 的词向量d .我需要输出一个大小为 的向量d 在 LSTM 结束时。 在此 question ，提到使用(对于多对一模型) model = Sequenti
我有不平衡的训练数据集，这就是我构建自定义加权分类交叉熵损失函数的原因。但问题是我的验证集是平衡的，我想使用常规的分类交叉熵损失。那么我可以在 Keras 中为验证集传递不同的损失函数吗？我的意思是用
DL 中的一项常见任务是将输入样本归一化为零均值和单位方差。可以使用如下代码“手动”执行规范化: mean = np.mean(X, axis = 0) std = np.std(X, axis =
我正在尝试学习 Keras 并使用 LSTM 解决分类问题。我希望能够绘制 准确率和损失，并在训练期间更新图。为此，我正在使用 callback function . 由于某种原因，我在回调中收到的准
在 Keras 内置函数中嵌入使用哪种算法？Word2vec？手套？其他？ https://keras.io/layers/embeddings/ 最佳答案 简短的回答是都不是。本质上，GloVe 的
我有一个使用 Keras 完全实现的 LSTM RNN，我想使用梯度剪裁，梯度范数限制为 5(我正在尝试复制一篇研究论文)。在实现神经网络方面，我是一个初学者，我将如何实现？ 是否只是(我正在使用 r
我是一名优秀的程序员,十分优秀！