r - Vowpal Wabbit 输入需要多少预处理？

Question

我知道大众汽车可以处理非常原始的数据(例如原始文本)，但例如，在将数据输入大众汽车之前是否应该考虑缩放数字特征？考虑以下行:

1 |n 年龄:80.0 高度:180.0 |c 伦敦男 |d the:1 猫:2 去了:3 出去:4

假设典型的年龄范围为 1 到 100，高度(以厘米为单位)范围可能为 140 到 220，那么转换/缩放年龄和高度是否更好所以他们有一个共同的范围？我认为许多算法可能需要对其输入数据进行这种预处理，例如线性回归。

Answer 1

vw SGD 与普通 SGD 相比得到了高度增强，因此不需要预缩放。

如果您的实例很少(小数据集)，预缩放可能会有所帮助。

vw 通过记住每个特征的范围来自动进行缩放标准化，因此很少需要预缩放即可获得良好的结果。

默认情况下应用规模、稀有性和重要性的标准化。相关的 vw 选项是:

--normalized
--adaptive
--invariant

如果其中任何一个出现在命令行上，则其他的不会应用。默认情况下，所有三个都会应用。

另请参阅: this stackoverflow answer

解释vw中增强型SGD算法的论文是:

Online Importance Weight Aware Updates - Nikos Karampatziakis & John Langford