- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我无法理解二维梯度下降。假设我有功能 f(x,y)=x**2-xy
哪里df/dx = 2x-y
和df/dy = -x
.
因此对于点 df(2,3),输出向量为 [1, -2].T。向量 [1,-2] 指向的位置都是最陡上升的方向(也称为 f(x,y) 的输出)。 我应该选择一个固定的步长,并找到该大小的步长使 f(x,y) 增加最多的方向。如果我想下降,我想找到-f(x,y)增加最快的方向?
如果我的直觉是正确的,你会如何编写这个代码?假设我从点 (x=0, y=5) 开始,我想执行梯度下降来找到最小值。
step_size = 0.01
precision = 0.00001 #stopping point
enter code here??
最佳答案
这是使用 matplotlib 可视化实现梯度下降:
import csv
import math
def loadCsv(filename):
lines = csv.reader(open(filename, "r"))
dataset = list(lines)
for i in range(len(dataset)):
dataset[i] = [float(x) for x in dataset[i]]
return dataset
def h(o1,o2,x):
ans=o1+o2*x
return ans
def costf(massiv,p1,p2):
sum1=0.0
sum2=0.0
for x,y in massiv:
sum1+=(math.pow(h(o1,o2,x)-y,2))
sum2=(1.0/(2*len(massiv)))*sum1
return sum1,sum2
def gradient(massiv,er,alpha,o1,o2,max_loop=1000):
i=0
J,e=costf(massiv,o1,o2)
conv=False
m=len(massiv)
while conv!=True:
sum1=0.0
sum2=0.0
for x,y in massiv:
sum1+=(o1+o2*x-y)
sum2+=(o1+o2*x-y)*x
grad0=1.0/m*sum1
grad1=1.0/m*sum2
temp0=o1-alpha*grad0
temp1=o2-alpha*grad1
print(temp0,temp1)
o1=temp0
o2=temp1
e=0.0
for x,y in massiv:
e+=(math.pow(h(o1,o2,x)-y,2))
if abs(J-e)<=ep:
print('Successful\n')
conv=True
J=e
i+=1
if i>=max_loop:
print('Too much\n')
break
return o1,o2
#data = massiv
data=loadCsv('ex1data1.txt')
o1=0.0 #temp0=0
o2=1.0 #temp1=1
alpha=0.01
ep=0.01
t0,t1=gradient(data,ep,alpha,o1,o2)
print('temp0='+str(t0)+' \ntemp1='+str(t1))
x=35000
while x<=70000:
y=h(t0,t1,x)
print('x='+str(x)+'\ny='+str(y)+'\n')
x+=5000
maxx=data[0][0]
for q,w in data:
maxx=max(maxx,q)
maxx=round(maxx)+1
line=[]
ll=0
while ll<maxx:
line.append(h(t0,t1,ll))
ll+=1
x=[]
y=[]
for q,w in data:
x.append(q)
y.append(w)
import matplotlib.pyplot as plt
plt.plot(x,y,'ro',line)
plt.ylabel('some numbers')
plt.show()
<小时/>
Matplotlib 输出:
ex1data1.txt可以从这里下载: ex1data1.txt
可以使用 Python 3.5 在 Anaconda 发行版中按原样执行代码。
关于python - Python 中的二维梯度下降,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/39681883/
我想循环遍历 gpx 文件并计算总上升和下降。我有一个函数可以计算两组经纬度点之间的高程差异,我已经设置了 simplexml 来读取和循环遍历 gpx 文件 trkseg 点。 问题是,这不准确(实
我有两个在不同时间段拍摄的数组。如何通过将新玩家标记为上升来检查哪些玩家在列表中上升/下降? 附言- 数组已经根据分数排序。 pastData:[ { playerName:'Jo
我想捕获 ctrl/alt/etc 键的起伏,无论表单上的哪个控件获取 keyup 或 keydown 事件。由于我的表单上有大约 100 个控件,如果我要为每个单独的控件添加代码,那将非常难看。我怎
vector1 = c(2, 2, 2, 2, 2, 2) vector2 = c(2, 2, 3, 3, 3, 3) vector3 = c(2, 2, 1, 2, 2, 2) 我想知道向量中的数字
我不知道如何遵循编译器的建议:consider using a let binding to create a longer lived value。 Playground #![allow(unus
我希望有人能帮助我理解 AngularJS 中的 $scope 遇到的一个恼人的问题。请参阅下面我的代码中的注释: app.controller('MyController', function ($
我有一个 flex 搜索集群,其中有2个节点在2核CPU 8GB ram实例上运行。每个节点都传入了参数“ES_JAVA_OPTS = -Xms3g -Xmx3g”。我有4个索引,每个索引有2个分片和
我正在学习 R(及其通过 quantmod lib 在交易任务中的应用)并定期浏览社区以从这里获得许多新知识和技巧。我对 R 的总体印象和特别是 quantmod lib 的印象 - 它很棒。 在这一
当我们点击屏幕时,我正在绘制纹理正方形。我正在使用相同的纹理。在新 ios 设备中点击几次后,FPS 从 120 下降到 4 左右。每次手指点击时,我都会将点击的点以及纹理和纹理的大小传递给着色器。
只有当对象被点击并且需要从列表中移除时它才会掉落。这是代码: if(event.type == TouchEvent.TOUCH_DOWN){ for(Bottle bottl
我有一个基于SpriteKit的小游戏。 在这个游戏中,我使用了很多带有字母(或字母组合)的节点,用户可以四处移动来构建单词。 这些节点基本上是带有 SKLabelNode 的 SKSpriteNod
我有一个简单的CSS布局 wrapper header left-sidebar / main-content / right-sidebar footer 但我的主要内容似乎下降了(float dr
在标题中,我给出了四个不同的部分,并使用 float 属性使所有内容都显示在一条水平线上。 当我调整浏览器窗口大小时,最后一个 div 位于黑色边框线下方。 如何解决。 http://jsfiddle
CSS: .desc{ text-align: center; color:#60A8D5; padding-top: 17px;
这是一段简单的代码,但我为这个问题尝试过的解决方案都没有奏效。 #ONE { float: left; border: 1
我有一个 SceneKit 设置,其中有一个 Sphere 设置为 Dynamic body。 我能够运行该应用程序并看到球体落在静态 body 地板上。 我想做的是设置场景,这样 sfere 最初就
首先,我的类(class): export class FooBar { ... isFavorite: boolean = false; constructor() { this.isF
我正在尝试删除所有端口上的所有传出 RST 和传入 RST。我正在使用 Debian Linux。我尝试了互联网上列出的所有可能的命令组合,但似乎没有任何效果。 例如,我试过: iptables -A
我正在做这样的事情: fn main() { //[1, 0, 0, 0, 99]; // return [2, 0, 0, 0, 99] //[2, 3, 0, 3, 99]; //
我正在使用 Rusqlite,它可以让你做这样的查询: statement.query_row(params!([1, 2, 3]), ...); params!()定义如下: macro_rules
我是一名优秀的程序员,十分优秀!