2019-01-25 探索攻击逻辑回归图像多分类

作者: 吟巧 | 来源:发表于2019-01-25 23:51 被阅读0次

2019-01-25 探索攻击逻辑回归图像多分类
逻辑回归(Logistic Regression)和SVM的比较
机器学习day7-逻辑回归问题
机器学习100天-Day4-6逻辑回归
逻辑回归
逻辑回归
逻辑回归（Logistic Regression）
机器学习之逻辑回归
逻辑斯蒂回归在二分类中的应用
11. 分类算法-逻辑回归

盘一下多分类逻辑回归的攻击方案。

#修改label分布，对于non-target

$D(t|y(w,x)) = \prod_{n=1}^{N} \prod_{k=1}^{K} y_{n,k}^{1-t_{n,k}}$

#还是梯度下降那一套

$\nabla_{x} \hat{D} = \nabla_{x} log D = \nabla_{x} \sum_{n=1}^{N} \sum_{k=1}^{K} (1-t_{k}) \log y_{k}$

$\hat{D} = \sum_{n=1}^{N} \sum_{k=1}^{K} (1-t_{n,k}) \log y_{n,k}$

$\partial_{x} \hat{D} = \sum_{n=1}^{N} \sum_{k=1}^{K} \frac {\partial \hat{D}}{\partial y_{k}} \frac {\partial y_{k}}{\partial x}$

#求偏导数

$\frac {\partial \hat{D}}{\partial y_{k}} = \frac {1-t_{k}} {y_{k}}$

$\frac {\partial y_{k}}{\partial x} = \frac{\Sigma \cdot \partial_{x} \exp(a_{k}) - \exp(a_{k}) \partial_{x} \Sigma}{\Sigma^{2}} = \frac {\sum_{c=1}^{K} \exp(a_{c}) \cdot \vec{w}_{k} \exp(a_{k}) - \exp(a_{k}) \sum_{c=1}^{K} \vec{w}_{c} \exp(a_{c})} {\sum_{c=1}^{K}\exp(a_{c}) \cdot \sum_{c=1}^{K}\exp(a_{c})}$

$\frac {\partial y_{k}}{\partial x} = y_{k} \vec{w}_{k} - y_{k} \cdot \sum_{c=1}^{K} y_{c} \vec{w}_{c}$

结果为

$\nabla_{x} \log D = \sum_{k=1}^{K} (1-t_{k}) \cdot (\vec{w}_{k} - \sum_{c=1}^{K} y_{c} \vec{w}_{c})$

上式展开

$x_{p, m} = x_{m} + \delta x_{m} = x_{m} + \eta \cdot \nabla_{x_{m,c}} D_{m,c}$

$x_{p, m} = x_{m} + \eta \sum_{k=1}^{K} (1-t_{m,k}) \cdot (\vec{w}_{k} - \sum_{c=1}^{K} y_{m,c} \vec{w}_{c})$

#攻击经验总结

在不定向攻击里，得到fooltaget存在着随着攻击参数变化的分布。可以用混淆矩阵描述这种攻击分布地图，在大部分的攻击里，尽量给图片造成微小的扰动，同时保证安全的区域。

攻击完后的fooledtaget样本，自然可以进行更强防御性模型的训练，有可能需要整整一层来进行防止。

#攻击的通用化，思考向GAN演化可能性

2019-01-25 探索攻击逻辑回归图像多分类
盘一下多分类逻辑回归的攻击方案。 #修改label分布，对于non-target #还是梯度下降那一套 #求偏导...
逻辑回归(Logistic Regression)和SVM的比较
逻辑回归不是回归，是做分类，只是用回归的思路做分类罢了。逻辑回归是传统机器学习的一种分类方法。特点是简单，高效，...
机器学习day7-逻辑回归问题
逻辑回归逻辑回归，是最常见最基础的模型。逻辑回归与线性回归逻辑回归处理的是分类问题，线性回归处理回归问题。两...
机器学习100天-Day4-6逻辑回归
逻辑回归（Logistic Regression）什么是逻辑回归逻辑回归被用于对不同问题进行分类。在这里，逻辑...
逻辑回归
逻辑回归是一种解决分类问题的机器学习算法。逻辑回归可以视为回归算法也可以视为分类算法，但通常用于分类，#####...
逻辑回归
逻辑回归是一个分类算法，利用回归来做分类.它可以处理二元分类以及多元分类，逻辑回归与线性回归不同主要体现在以下两点...
逻辑回归（Logistic Regression）
重点事情说三遍！！！逻辑回归虽然名字叫回归，但它是正经的分类方法！分类方法！分类方法！ 1. 逻辑回归假如我们...
机器学习之逻辑回归
逻辑回归场景简介：使用逻辑回归实现对鸢尾花的分类预测。基于python基本库的实现模型说明逻辑回归是一个分类...
逻辑斯蒂回归在二分类中的应用
逻辑回归简介逻辑斯蒂回归（logistic regression，又称“对数几率回归”）是经典的分类方法。逻辑斯...
11. 分类算法-逻辑回归
逻辑回归逻辑回归是解决二分类问题的利器逻辑回归公式 sklearn逻辑回归的API sklearn.linea...