七月下论文阅读

Counterfactual Visual Explanations
2019 ICML

作者提出了，利用 类的图片的某些feature去修改类图片，能够让图片被分成类。

Screen Shot 2019-07-25 at 4.56.33 PM.png

这篇文章有很多想法都与我契合，下面划重点：

1. 作者用全连接层之前的feature作为替换的对象，因为这些feature在图像上依然有位置信息（receptive field）。

   
   

2. 作者训练如何替换feature时，用的mask是1/0 binary的，但是binary无法训练。所以他提出两种解决方案：

   
   

• 穷举法
  

  Screen Shot 2019-07-25 at 4.56.46 PM.png
  依次选出能够使类softmax值最大的，直到目标图片被替换得分成了类。
  鸡肋的是，作者的visualization也用的这种方法。

• 训练法
  作者把一定是binary的限制放松为需要是一个非负的而且和为一的点。然后把定义为softmax函数：
  

  Screen Shot 2019-07-25 at 5.23.03 PM.png
  然后就可以用Gradient Decent 训练啦

3. 作者说，他的方法可以教用户怎么分类鸟，提高用户的学习能力！！！
   教学界面如图：

   
   教学
   

   对比实验是1.不告诉用户分对了没有。2.只告诉用户分对了没有。3.告诉用户分对了没有，然后给用户看grad-cam的注意力图。

重点：

1. 作者也用了fine-grained classification。但是强调了分类不是他们的目的，所以分类准确率不重要。
2. 作者提出了一种折中的办法实现如何训练一个mask。
3. 作者做了一个完备的userstudy，他的想法值得借鉴。

GRADIENTS OF COUNTERFACTUALS
ICLR 2017
这篇文章指出，利用gradient方法计算图片贡献度不对，一些重要的图片区域可能有很小的gradient。因为神经网络saturate