python - 为什么当 alpha 值中分母的幂增加到 13 或更多时，Ridge 模型拟合会显示警告？

Question

我试图创建一个循环来找出装有 Ridge 回归模型的波士顿住房数据集的训练集和测试集的准确度分数的变化。
这是 for 循环:

for i in range(1,20):
        Ridge(alpha = 1/(10**i)).fit(X_train,y_train)

它显示了从 i=13 开始的警告。
警告是:

LinAlgWarning: Ill-conditioned matrix (rcond=6.45912e-17): result may not be accurate.
  overwrite_a=True).T

这个警告是什么意思？
有可能摆脱它吗？
我检查没有循环单独执行它，仍然没有帮助。

#importing libraries and packages

import mglearn
from sklearn.model_selection import train_test_split
from sklearn.linear_model import Ridge

#importing boston housing dataset from mglearn
X,y = mglearn.datasets.load_extended_boston()

#Splitting the dataset
X_train,X_test,y_train,y_test = train_test_split(X,y,random_state=0)

#Fitting the training data using Ridge model with alpha = 1/(10**13)
rd = Ridge(alpha = 1/(10**13)).fit(X_train,y_train)

不应为 i 的任何值显示上述警告。

Answer 1

尝试使用归一化拟合 Ridge 模型:Ridge(normalize=True) .我遇到了和你一样的错误，这是因为我的特征包括极大和极小的值，这导致用于拟合模型的底层线性代数求解器出现问题。