machine-learning - sklearn logloss参数标准化函数

Question

一个相当简单的问题:sklearn 的 log_loss 指标的参数“标准化”有什么作用？

根据documentation :“标准化: bool 值，可选(默认=True)如果为 true，则返回每个样本的平均损失。否则，返回每个样本损失的总和。”我的理解是，这与是否包含 N 有关，True 是平均值，False 是总和:logloss = -1/N(每例损失的总和) ) log loss function

如果是这样，优化其中之一并没有什么区别，那么，为什么我们更喜欢其中之一呢？换句话说，将参数放在适当的位置有什么意义？个人喜好？

Answer 1

虽然 f(x) 和 1/N f(x) 的最小化是等效的，但当您处理 f(x) + alpha g(x) 与 1/N 形式的函数时，常数的含义会发生变化f(x) + alpha g(x)，当您学习正则化逻辑回归时会发生这种情况，因此在第二种情况下，等效 alpha 是 1/N * 先前的 alpha。这里没有“单一选择”，它仅取决于应用程序 - 有时均值更适合(当您需要样本大小的不变性时)，有时求和更适合。