美文网首页
DEFENSE-GAN: PROTECTING CLASSIFI

DEFENSE-GAN: PROTECTING CLASSIFI

作者: 馒头and花卷 | 来源:发表于2020-05-28 15:26 被阅读0次

Samangouei P, Kabkab M, Chellappa R, et al. Defense-GAN: Protecting Classifiers Against Adversarial Attacks Using Generative Models.[J]. arXiv: Computer Vision and Pattern Recognition, 2018.

@article{samangouei2018defense-gan:,
title={Defense-GAN: Protecting Classifiers Against Adversarial Attacks Using Generative Models.},
author={Samangouei, Pouya and Kabkab, Maya and Chellappa, Rama},
journal={arXiv: Computer Vision and Pattern Recognition},
year={2018}}

本文介绍了一种针对对抗样本的defense方法, 主要是利用GAN训练的生成器, 将样本x投影到干净数据集上\hat{x}.

主要内容

我们知道, GAN的损失函数到达最优时, p_{data}=p_G, 又倘若对抗样本的分布是脱离于p_{data}的, 则如果我们能将x投影到真实数据的分布p_{data}(如果最优也就是p_G), 则我们不就能找到一个防御方法了吗?

对于每一个样本, 首先初始化R个随机种子z_0^{(1)}, \ldots, z_0^{(R)}, 对每一个种子, 利用梯度下降(L步)以求最小化
\tag{DGAN} \min \quad \|G(z)-x\|_2^2,
其中G(z)为利用训练样本训练的生成器.

得到R个点z_*^{(1)},\ldots, z_*^{(R)}, 设使得(DGAN)最小的为z^*, 以及\hat{x} = G(z^*), 则\hat{x}就是我们要的, 样本x在普通样本数据中的投影. 将\hat{x}喂入网络, 判断其类别.

在这里插入图片描述 在这里插入图片描述

另外, 作者还在实验中说明, 可以直接用\|G(z^*)-x\|_2^2 \frac{<}{>} \theta 来判断是否是对抗样本, 并计算AUC指标, 结果不错.

注: 这个方法, 利用梯度方法更新的难处在于, x \rightarrow \hat{x}这一过程, 包含了L步的内循环, 如果直接反向传梯度会造成梯度爆炸或者消失.

相关文章

网友评论

      本文标题:DEFENSE-GAN: PROTECTING CLASSIFI

      本文链接:https://www.haomeiwen.com/subject/cblaahtx.html