machine-learning - Vowpalwabbit 奇怪的特征计数

Question

我发现在训练过程中，我的模型 vw 在日志中显示了非常大的特征数(比我的特征数多得多)。

我尝试使用一些小例子来重现它:

简单测试:

-1 | 1 2 3
1  | 3 4 5

然后“vw simple.test”命令表示它使用了 8 个功能。 +一个特征是不变的，但其他特征是什么？在我的真实例子中，我的功能和 wv 中使用的功能之间的差异大约是 x10。

...

Num weight bits = 18
learning rate = 0.5
initial_t = 0
power_t = 0.5
using no cache
Reading datafile = t
num sources = 1
average    since         example     example  current  current  current
loss       last          counter      weight    label  predict features

finished run
number of examples = 2
weighted example sum = 2
weighted label sum = 3
average loss = 1.9179
best constant = 1.5
total feature number = 8 !!!!

Answer 1

总特征数显示所有观察到的示例的特征计数总和。所以在你的情况下是 2*(3+1 常数)=8 。当前示例中的特征数量显示在当前特征列中。请注意，默认情况下，屏幕上仅打印 2^Nth 示例。一般来说，观察结果可能具有不同数量的特征。