gpt4 book ai didi

迁移学习(EDA)《Energy-basedDomainAdaptionwithActiveLearningforEmergingMisinformationDetection》

转载 作者:我是一只小鸟 更新时间:2023-03-08 06:31:16 26 4
gpt4 key购买 nike

论文信息

论文标题:Energy-based Domain Adaption with Active Learning for Emerging Misinformation Detection 论文作者:Kyumin Lee; Guanyi Mou; Scott Sievert 论文来源: 论文地址: download   论文代码:download 。

1 介绍

  基于能量的模型(EBM),应该给正确的类 $\breve{y}$ 产生较低的能量:

    $\breve{y}=\operatorname{argmin}_{y \in Y} E(x, y) \quad\quad\quad(1)$ 。

  本文域适应损失——源域监督损失 + 域对齐损失.

源域监督损失 $L_{s-\text { classification }}$ 如下:

    $L_{s-\text { classification }}=E(x, y ; \theta)^{2}+e x p^{(-E(x, \bar{y} ; \theta))}  \quad\quad\quad(2)$ 。

  其中,$y$ 是真实的类,$\bar{y}$ 是另一个/不正确的类.

域对齐损失 $L_{D-\text { Alignment }}$ 如下:

    $L_{D-\text { Alignment }}=\max \left(0, \mathbb{E}_{x \sim \mathcal{D}_{S}} F(x ; \theta)-\mathbb{E}_{x \sim \mathcal{D}_{T}} F(x ; \theta)\right) \quad\quad\quad(3)$ 。

  其中,$F(x ; \theta)= -\log \sum\limits _{y \in Y} \exp ^{(-E(x, y ; \theta))}$ .

总损失 如下 :

    $L_{D A}=L_{S \text {-classification }}+\lambda * L_{D-\text { Alignment }} \quad\quad\quad(4)$ 。

  如 Figure 1 所示,模型经过域自适应训练,就进行主动学习,它基于一定准测从目标域选取一些实列,并取得其真实标签。然后,使用带标记的目标实例来进一步训练我们的模型.

  在每一轮中,一旦从目标域得到带有标记的样本,将进一步重新训练模型,然后测量以下损失函数:

    $L_{A L}=L_{T \text {-classification }}+\lambda * L_{D-\text { Alignment }} \quad\quad\quad(5)$ 。

  $L_{T \text {-classification }}$ 代表了带标记样本的分类损失(选择的)。$L_{D-\text { Alignment }}$ 用于对齐源域和目标域的自由能分布.

  Note:本文的主动学习策略为:(i) 随机选择(EDA-randon)和 (ii)基于不确定性的选择(EDA-不确定性).

  模型框架图:

2 实验

数据集 。

实验细节 。

  每个数据集分别被拆分为训练集、验证集和测试集,其比例分别为 70%、10% 和 20%。选择其中一个数据集作为目标域数据集,其余两个数据集通过组合在一起作为源域数据集.

实验结果 。

最后此篇关于迁移学习(EDA)《Energy-basedDomainAdaptionwithActiveLearningforEmergingMisinformationDetection》的文章就讲到这里了,如果你想了解更多关于迁移学习(EDA)《Energy-basedDomainAdaptionwithActiveLearningforEmergingMisinformationDetection》的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com