gpt4 book ai didi

python - 在python中实现梯度下降

转载 作者:行者123 更新时间:2023-11-30 09:42:33 26 4
gpt4 key购买 nike

我正在尝试在 python 中实现梯度下降。虽然我的代码返回结果,但我认为我得到的结果是完全错误的。

这是我编写的代码:

import numpy as np
import pandas

dataset = pandas.read_csv('D:\ML Data\house-prices-advanced-regression-techniques\\train.csv')

X = np.empty((0, 1),int)
Y = np.empty((0, 1), int)

for i in range(dataset.shape[0]):
X = np.append(X, dataset.at[i, 'LotArea'])
Y = np.append(Y, dataset.at[i, 'SalePrice'])

X = np.c_[np.ones(len(X)), X]
Y = Y.reshape(len(Y), 1)

def gradient_descent(X, Y, theta, iterations=100, learningRate=0.000001):
m = len(X)
for i in range(iterations):
prediction = np.dot(X, theta)
theta = theta - (1/m) * learningRate * (X.T.dot(prediction - Y))

return theta

theta = np.random.randn(2,1)
theta = gradient_descent(X, Y, theta)
print('theta',theta)

运行该程序后得到的结果是:

theta [[-5.23237458e+228] [-1.04560188e+233]]

这是非常高的值。有人可以指出我在实现中犯的错误吗?

另外,第二个问题是我必须将学习率的值设置得非常低(在本例中我设置为 0.000001)才能工作,否则程序会抛出错误。

请帮助我诊断问题。

最佳答案

尝试通过迭代降低学习率,否则无法达到最佳最低值。试试这个

import numpy as np
import pandas

dataset = pandas.read_csv('start.csv')

X = np.empty((0, 1),int)
Y = np.empty((0, 1), int)

for i in range(dataset.shape[0]):
X = np.append(X, dataset.at[i, 'R&D Spend'])
Y = np.append(Y, dataset.at[i, 'Profit'])

X = np.c_[np.ones(len(X)), X]
Y = Y.reshape(len(Y), 1)

def gradient_descent(X, Y, theta, iterations=50, learningRate=0.01):
m = len(X)
for i in range(iterations):
prediction = np.dot(X, theta)
theta = theta - (1/m) * learningRate * (X.T.dot(prediction - Y))
learningRate/=10;

return theta

theta = np.random.randn(2,1)
theta = gradient_descent(X, Y, theta)
print('theta',theta)

关于python - 在python中实现梯度下降,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56887503/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com