gpt4 book ai didi

vowpalwabbit - 如何使用自定义损失函数(PU学习)

转载 作者:行者123 更新时间:2023-12-05 05:26:26 25 4
gpt4 key购买 nike

我目前正在探索 PU learning .这只是从正面和未标记的数据中学习。出版物之一[Zhang, 2009]断言可以通过修改具有概率输出(例如逻辑回归)的二元分类器算法的损失函数来学习。论文指出应该优化平衡精度。

Vowpal Wabbit 目前支持五种损失函数 [listed here] .我想在优化 AUC (ROC) 的地方添加一个自定义损失函数,或者等效地,按照论文:1 - Balanced_Accuracy。

我不确定从哪里开始。查看代码表明我需要提供一阶、二阶导数和一些其他信息。我也可以运行带有 Logistic 损失的标准算法,但尝试根据我的目标调整 l1 和 l2(不确定这是否好)。我很乐意获得有关如何进行的任何指示或建议。

更新更多搜索显示在线学习中无法/难以针对 AUC 进行优化:answer

最佳答案

我发现了两个可以立即准备好进行 PU 学习的软件套件:

(1) SVM perf来自约阿希姆斯

在这里使用 ``-l 10'' 选项!

(2) Sofia-ml

在这里使用 ``--loop_type roc'' 选项!

通常,您将 +1'' 标签设置为正面示例,将 -1'' 设置为所有未标记的示例。然后启动训练程序,然后进行预测。

这两种软件都会为您提供一些性能指标。我建议使用来自 KDD`04 cup 的标准化和完善的二进制文件:``perf''。获取here .

希望它对那些想知道它在实践中如何运作的人有所帮助。也许我阻止了这个案子XKCD

关于vowpalwabbit - 如何使用自定义损失函数(PU学习),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/26351260/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com