异常检测论文整理

1. Unsupervised Detection of Lesions in Brain MRI using constrained adversarial auto-encoders

用VAE或者AAE结构首先对正常图像进行训练，学习正常样本分布，测试时用异常样本，由于模型没有学习异常样本分布，所以其重建效果不佳。用异常图像与其重建图像像素相减得出图像的异常区域。

其结构可认为就是E1-D-E2。损失函数为|x-x’|+|z-z’|也就是原图像与重建图像的像素差异及原图像与重建图像的隐空间差异。作者认为让异常图像与正常图像在隐空间尽可能接近，其重建后的图像能够更像正常图像，通过像素相减可以更准确的出异常区域。

image.png

图，第一列异常图像，第二列重建图像，二者像素相减，GT异常区域
另一个可以参考的点是通过TSNE对图像进行可视化对比。主要是正常图像与异常图像的对比，另一个角度是正常图像，正常图像重建图像，异常图像，异常图像重建图像，四者的TSNE比较。观察接近程度。

image.png

2. Unsupervised Anomaly Detection for X-Ray Images
   未提出新方法，使用AE类及GAN类方法应用于手部X光图像进行异常检测。整个方法思想是预处理—模型重建—异常热力图。
   文章将预处理提到较高位置，文中实验提出再未预处理的图像上模型性能甚至不如随机猜测（AUC<0.5）。预处理是个去噪的过程，其重要性体现在如果不去噪声，噪声可能被模型识别为异常，而去噪的过程也可能将异常当作噪声去掉。
   预处理操作包括：cropping, hand location, Foreground Segmentation,数据增强。

   
   image.png
   

   Cropping是使用opencv将手部裁剪，hand location是将寻转后的图像使用ssd进行手部检测，Foreground Segmentation是对手部进行像素级分割。
   模型使用两类，自动编码器类与GAN类。
   自动编码器中将重建损失设定为

   
   image.png
   只对手上的像素计算图像重建损失，降低背景重建损失的影响。选用模型包括卷积AE,VAE。异常分数定义为损失函数较高的像素点可能意味着异常可能性大，作为异常判断依据，聚集整张图像的损失值定义为整张图像的异常分数。
   GAN方法包括BiGAN,α-GAN.将判别器的输出作为异常分数。
   试验如下，为了展示工作量，可以采取改表的实验方法。试验证明采用预处理对模型性能提升贡献较大。效果如下图。
   image.png

image.png

3. SPARSE-GAN: SPARSITY-CONSTRAINED GENERATIVE ADVERSARIAL NETWORK FOR ANOMALY DETECTION IN RETINAL OCT IMAGE

   
   image.png
   

   基于image-to-image gan（encoder-decoder+判别器）的异常检测模型，后面加一个encoder映射回隐空间，异常函数仅采用两个隐空间向量的差作为判别依据，作者认为原图像与重建图像上存在大量噪声，影响判别。在image-to-image gan中对映射到隐空间的向量增加了一个sparsity regularization net(稀疏度正则化网络)，得到更高效的向量表达。模型训练损失是生成损失+图像重建损失。
   提出一种异常可视化方法Anomaly Activation Map (AAM)，对前后两隐空间向量求GlobalAverage Pooling GAP差值。最终效果。

   
   image.png

4. PERCEPTUAL IMAGE ANOMALY DETECTION
   异常检测方法可划分为自动编码器类方法与GAN方法。自动编码器类方法问题是适用于异常比较简单的场合，对于异常差异性较大时，检测效果不好。GAN类方法与自动编码器类方法相比，不同在于1.找到对应图片的隐空间向量方法不同，2.根据输入图像及重建图像判断异常的方法不同。对于第一个问题，一部分方法利用耗时的梯度下降优化寻找隐向量过程（如anogan）,其他的方法使用编码器实现对每张图像的生成对应的隐向量。第二个问题，大部分方法对输入与重建图像根据L1或者MSE判断图像差异。

   
   image.png
   

   主流异常检测方法示意图。
   PIAD架构图如图2d所示，G与E在两个判别器的作用下协调训练。

5. relative-perceptual-L1 loss
   输入图像与重建图像的相似性评价基于此损失，来源于Perceptual loss,其原始定义如下所示，但是该损失对噪音及对比度比较敏感.

   
   image.png

改进后定义该损失为：

image.png

现在大型数据集上计算得平均值及方差，对目标数据集特征进行规范化，再按下式计算感知特征差异。
训练各损失定义如下：

image.png

5. Adversarially Learned One-Class Classifier for Novelty Detection(cvpr2018)
   Novelty detection 与anomaly detection, one-class classification等任务非常相近。新奇检测可定义为识别出与目标数据明显不同的数据的过程。
   本文方法类似GAN,含有两个网络。一个叫R，使得重建后的正常样本与异常样本的区别更大，第二个模型叫D。用于区分正常样本与异常样本。
   现有的新奇检测方法可概括为1. Self-Representation 2. Statistical Modeling. 3.Deep Adversarial Learning
   Self-Representation：学习一个稀疏表示模型，将异常样本从正常样本中区分出来。它假设使用目标正常的样本来表示异常样本并不稀疏。也就说使用正常样本重建异常样本。根据重建误差判断正常与否。
   Statistical Modeling：对正常样本拟合分布，远离该分布的样本为异常样本。
   Deep Adversarial Learning。利用GAN方法进行异常检测。训练G作为对正常样本的重建网络，如果样本重建效果不佳，视为异常样本。

   
   image.png
   

   本文提出方法包括两个网络，R用于图像的预处理及重建，D用于判别。为了使得模型更加鲁棒，图像进入R之前添加了高斯噪声。

   
   image.png
   第一行是加了噪声的输入，第二行是原始图像，第三行是经过R的输出。左侧是正常图像，右侧是异常图像。说明模型对正常图像重建效果好，对异常图像重建效果差。
   image.png
   R的结构为自动编码器（Encoder-Decoder）.R可对加入噪声后的正常图像实现增强，对加入噪声后的异常图像实现破坏。使得二者更易于区分。
   image.png
   D为一系列卷积结构，输出为一个数字，表示与正常类别的相似度，数字越大，更倾向于认为正常样本。

添加的高斯噪声分布为 n，重建后的样本分布为：

image.png

GAN的训练误差为

image.png
image.png
image.png

整体的损失函数定义为

image.png
LR定义为：
image.png

D阶段的判断依据可为一下两种：一种是对D(x),一种是D（R（x））

image.png image.png

实验结论：
以mnist为例，选取0-9分别为正常样本类，其他的类别均为异常样本。

image.png

试验证明使用D（x）作为判断依据性能也很好,使用D(R(X))性能更优。

image.png
在mnist数据集实验中，在训练集掺入一定的异常样本，模型性能下降不明显，说明该方法的鲁棒性强。
image.png

在视频异常检测数据集的实验中发现，使用D（x）可能造成假阳性，即把正常样本识别为异常样本，而使用D(R(X))可有效避免此问题。