- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我在 Unity 机器学习代理中拥有一架寻找目标、避障的直升机。查看 TensorBoard 进行训练,我试图了解如何解释“损失/值(value)损失”。
我在 google 上搜索了很多关于 ML Loss 的文章,例如 this one ,但我似乎还无法直观地理解这对我的小直升机意味着什么,以及我应该实现的可能的改变(如果有的话)。 (直升机因一次又一次接近目标而受到奖励,并因进一步或碰撞而受到惩罚。它测量各种参数,如相对速度、相对目标位置、射线传感器等,并且它基本上在目标中工作- 寻找,而更复杂的迷宫类型障碍尚未经过测试或训练。它使用 3 层。)谢谢!
最佳答案
在强化学习中,特别是在参与者/批评者算法中,值(value)损失是学习算法对状态值的期望之间的差异(或许多此类差异的平均值) > 以及该状态的经验观察值。
国家的值(value)是什么?简而言之,一个状态的值(value)就是你从该状态开始可以期待多少奖励。即时奖励完全占此金额。可能发生但不会立即发生的奖励贡献会越来越少,而且越遥远的事件贡献也会越来越少。我们将这种值(value)贡献的减少称为“折扣”,或者我们说这些奖励是“打折的”。
期望值是算法的关键部分预测值的大小。对于作为神经网络实现的批评家来说,它是神经网络的输出,状态作为其输入。
经验观察值是将您离开该状态时实际获得的奖励加上您在某些时间内立即获得的任何奖励(打折一定金额)后获得的金额。步骤数(我们会说在这些步骤之后您最终进入状态 X),以及(可能取决于实现)加上基于状态 X 的值的一些折扣金额。
简而言之,它越小,它就越能更好地预测其性能。这并不意味着它在玩游戏方面会变得更好 - 毕竟,如果一个人学会选择会让他们很快输掉的行动,那么他可能在一场游戏中很糟糕,但能够准确预测他们会输以及何时会输!
关于tensorflow - 如何在 TensorBoard 中解释 "Value Loss"图表?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/60042639/
正如 Keras 手册中所述 -使用 Pyhton 进行深度学习-,对于多输出模型,我们需要为网络的不同头指定不同的损失函数。但由于梯度下降要求您最小化标量,因此您必须将这些损失组合成单个值才能训练模
我无法判断这个错误是由于技术错误还是超参数造成的,但我的 DC-GAN 的鉴别器损失一开始很低,然后逐渐攀升,在 8 左右减慢,而我的发电机损失则大幅下降。我在大约 60,000 epoch 时结束了
我对以下日志有点怀疑,这是我在训练深度神经网络时得到的回归目标值在 -1.0 和 1.0 之间,学习率为 0.001 和 19200/4800 训练/验证样本: ___________________
简而言之: 我训练了一个自动编码器,其验证损失始终高于其训练损失(见附图)。 我认为这是过度拟合的信号。然而,我的自动编码器在测试数据集上表现良好。我想知道是否: 1)引用下面提供的网络架构,任何人都
我正在处理文本序列,序列长度在 1-3 之间。标签是一个“分数”。我有超过 500 万个样本。我的网络如下所示(Keras): model.add(Embedding(word_count, 128,
我正在训练用于图像语义分割的 CNN U-net 模型,但是训练损失的减少速度似乎比验证损失的减少速度快得多,这正常吗? 我使用的是 0.002 的损失 下图可以看到训练和验证损失: 最佳答案 是的,
我目前正在通过研究 MNIST 示例等示例来学习卷积神经网络。在神经网络的训练过程中,我经常看到如下输出: Epoch | Train loss | Valid loss | Train
我设计了自己的损失函数。但是,当尝试恢复到训练期间遇到的最佳模型时 model = load_model("lc_model.h5") 我收到以下错误: -----------------------
在基于RAW套接字的数据包发送测试期间,我发现了非常令人讨厌的症状。 使用默认的RAW套接字设置(尤其是SO_SNDBUF大小), 原始套接字可以毫无问题地发送100,000个数据包,但大约花费了8秒
我用JAVA编写了以下方法: public static float surface(float r) { return(4*Math.PI*Math.pow(r,2));
我正在学习pytorch,并正在做anpr项目,它是基于tensorflow的(https://github.com/matthewearl/deep-anpr, 奥 git _a)作为练习,将其移植
我试图找出为什么我的 Java 程序中会出现这种精度丢失错误。 这是错误: error: possible loss of precision int digit = num/Mat
我刚开始在 tensorflow(r1.0) 中使用 ctc 损失层,对“标签”输入有点困惑 在tensorflow的API文档中是这样写的 labels: An int32 SparseTensor
我知道在 Java 中将 BigDecimal 值转换为 Double 时存在“精度问题”。使用 BigDecimal.doubleValue() 简单地从 BigDecimal 转换为 Double
我读了 related question keras 自定义损失函数必须为每个批处理项返回一个标量。 我写了一个损失函数,输出整个批处理的标量,网络似乎收敛了。但是,我找不到任何关于此的文档或代码中究
我有一个 C++ 应用程序,它使用 UDP 服务器(使用 Boost.Asio)以高频率(每秒 3500 个数据包)从千兆本地网络设备接收数据包。一些用户报告了一些数据包丢失。所以最后我选择并行运行
更换了 用response.sendRedirect("URL"); ,我发现我知道一旦重定向发生就会失去 session 。有没有办法通过重定向保留 session ,或者重建 session co
我正在使用 DQN 算法在我的环境中训练代理,如下所示: 代理通过选择离散 Action (左、右、上、下)来控制汽车 目标是以理想的速度行驶而不会撞到其他汽车 状态包含代理的汽车和周围汽车的速度和位
我正在实现简单的 DQN算法使用 pytorch , 解决来自 gym 的 CartPole 环境.我已经调试了一段时间,我无法弄清楚为什么模型没有学习。 观察: 使用 SmoothL1Loss性能比
我正在开发一个网络打印海报打印应用程序。 我正在考虑使用 PHP 来裁剪用户上传的图像,我们最终将打印 PHP 裁剪的图像。 我担心的是原始用户上传的图像与被 PHP 裁剪后的图像之间的“质量”会有所
我是一名优秀的程序员,十分优秀!