gpt4 book ai didi

machine-learning - 当我们可以解析线性回归时为什么要梯度下降

转载 作者:行者123 更新时间:2023-11-30 08:19:55 28 4
gpt4 key购买 nike

在线性回归空间中使用梯度下降有什么好处?看起来我们可以用分析方法解决这个问题(找到最小成本函数的 theta0-n),那么为什么我们仍然想使用梯度下降来做同样的事情呢?谢谢

最佳答案

当您使用正规方程来分析求解成本函数时,您必须计算:

enter image description here

其中 X 是输入观测值矩阵,y 是输出向量。此操作的问题是计算 nxn 矩阵的逆的时间复杂度为 O(n^3),并且随着 n 的增加,可能需要很长时间才能完成。

当 n 较低时(n < 1000 或 n < 10000),您可以将正规方程视为计算 theta 的更好选择,但是对于较大值,梯度下降 速度更快,因此唯一的原因是时间:)

关于machine-learning - 当我们可以解析线性回归时为什么要梯度下降,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/18191890/

28 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com