vowpalwabbit - 解释 Vowpal Wabbit 的基本输出

Question

我有几个关于大众汽车简单运行的输出的问题。我已经阅读了互联网和维基网站，但仍然不确定一些基本的事情。

我对波士顿住房数据进行了以下操作:

vw -d housing.vm --progress 1

其中 Housing.vm 文件设置为(部分):



和输出是(部分):



问题一:

1)将平均损失列考虑为以下步骤是否正确:

a) 预测为零，因此第一个平均损失是第一个示例的平方误差(预测为零)

b) 在示例 1 上建立模型并预测示例 2。平均现在 2 的平方损失

c) 在示例 1-2 上建立模型并预测示例 3。平均现在的 3 平方损失

d) ...

这样做直到你到达数据的末尾(假设单次通过)

2) 当前的功能列是什么？它似乎是非零特征的数量 + 一个截距。示例中显示的内容表明，如果某个特征为零，则该特征不会被计算在内——这是真的吗？例如，第二个记录的“ZN”值为零。大众真的认为这个数字特征缺失了吗？

Answer 1

你的说法基本正确。默认情况下，VW 进行在线学习，因此在步骤 c 中，它采用当前模型(权重)并使用当前示例对其进行更新(而不是再次从之前的所有示例中学习)。

如您所料，当前特征列是当前示例的(非零)特征数。拦截功能会自动包含在内，除非您指定 --noconstant .

缺失特征和具有零值的特征之间没有区别。两者都意味着您不会更新相应的权重。