math - 在在线机器学习算法中将样本标准化为 0 均值和 1 方差

Question

我目前正在研究一种在线机器学习算法，我需要确保输入向量中的每个特征在样本中具有 0 均值和 1 方差。我认为当你事先拥有所有样本时，如何做到这一点是微不足道的，但在线学习中的情况并非如此。有谁知道如何以这样的方式标准化一个新的给定向量，以便先前样本(+新样本)的每个特征都具有 0 均值和 1 方差？这可能吗？

谢谢

Answer 1

引导前几百个样本，估计均值和方差，并对均值 0 和方差 1 进行高斯归一化，并将任何 future 向量归一化为此。没有 ML 算法对于归一化到 0,1 非常严格，这应该足够了。

对于一个严格的在线问题，您从第一个缺陷开始学习，我不知道该怎么做，除非您对变量的范围有一些想法，例如灰度图像中像素的最大值等。重新归一化和假设收集到每个 x 缺陷后重新训练的成本太高。