文章发表于NeurIPS 2020
半监督方法的目是充分利用少量的有标数据以及大量的无标数据。
为了充分利用有标数据，通常会对有标数据进行增强
为了充分利用无标数据，会通过一种方法给无标数据打上人工标签，然后就可以像有标数据一样利用起来
UDA的主要步骤如下：
image.png
1.给无标数据一个人工标签。无标数据的模型输出结果当做标签（置信度大于阈值，并经过锐化Sharpening）。
2.一致性正则。通过对一个无标数据增强一次并输入模型来拟合之前得到的人工标签（CE损失）。值得注意的是，这里的标签并不是one-hot的，而是一个概率分布。
3.有标数据的CE损失+无标数据的CE损失
由此可见，该方法一致性正则 和 熵最小正则（smoothness/cluster assumption）的应用。
一致性正则体现在将一个无标数据前后标签一致
熵最小正则体现在给无标数据一个人工标签的过程（Sharpening）
实验
image.png
UDA: Unsupervised Data Augmentation for Consistency Train...
FixMatch::Simplifying Semi-Supervised Learning with Consi...
ReMixMatch: Semi-Supervised Learning with Distribution Al...
MixMatch: A Holistic Approach to Semi-Supervised Learning...
论文：半监督学习方法 关键词：半监督；有监督学习；半监督学习；无监督学习；SSL；无类标签样例；Semi-Supe...
https://www.cnblogs.com/wuliytTaotao/p/12727922.html[http...
目录 1. 简介 2. 数据增广 2.1 Mixup论文 2.2 Manifold Mixup论文 3. 半监督 ...
1,监督学习:数据与标签的2，非监督学习：只有数据没有标签3，半监督学习：监督学习+半监督学习4，强化学习：训练中...
Google在2019年提出了UDA方法（Unsupervised Data Augmentation 无监督数据...
具有高标签利用率的图滤波半监督学习方法 本文解读了一篇被CVPR2019大会接收的半监督学习方向的论文,点击此处跳...
本文标题：UDA半监督学习论文【终于说清楚了系列3】
本文链接：https://www.haomeiwen.com/subject/nxdikltx.html
网友评论