让人脸识别算法失灵！还能抵抗微信微博照片压缩！武大&Adobe提出抗压缩对抗新框架，成功率最高超90%

点击上方“CVer”，选择加"星标"置顶

重磅干货，第一时间送达

鱼羊 编辑整理 凹非寺
本文转载自：量子位（QbitAI）

上回书说到，现在，对抗攻击的理念已经被应用到隐私保护领域：

通过给照片添加肉眼看不出来的对抗性噪声，来蒙蔽人脸识别AI，达到保护隐私的效果。

不过，就有好学的同学提出了这样的疑问，各种App基本都会对图片重新进行压缩，那这种照片「隐身衣」不就会因此失效吗？

最近，武汉大学国家网络安全学院就和Adobe公司合作，针对这个问题进行了研究， 并提出了一种适用于任意压缩方式的抗压缩对抗性图像生成方案。

也就是说，这是一身具有抗压缩能力的照片「隐身衣」。

即使经过处理的照片被社交平台中各种压缩算法改造一番，也依然能保持对抗性。比如，在微博上就可以达到90%以上的成功率。

抗压缩的照片「隐身衣」

一般来说，添加了微小扰动的对抗性实例，都会受到图像压缩方法的影响。

尤其是现在不同社交平台采用的压缩方法都是黑盒算法，压缩方法的变化也给对抗性实例的「抗压性」带来了不小的挑战。

论文一作王志波教授就指出：

在压缩算法未知或不可微的情况下，生成抗压缩的对抗性图像具有很大挑战性。

为了解决这样的问题，这项研究提出了抗压缩对抗框架ComReAdv。

具体而言，方案分为三个步骤。

步骤一：构建训练数据集

通过上传/下载的方式，获取大量原始图像和对应的压缩图像，构建训练数据集。

步骤二：压缩近似

利用原始图像-压缩图像对构成的数据集进行监督学习。

研究人员设计了一个基于编码-解码的压缩近似模型，称为ComModel。该模型被用于学习如何像黑盒压缩算法一样转换图像，以达到近似压缩的目的。

其中，编码器从原始图像中提取多尺度特征，如内在纹理和空间内容特征。

对应的，解码器对压缩后的对应图像进行由粗到细的重构，以模仿真实压缩图像的压缩效果。

通过最小化重构图像和真实压缩图像之间的平均绝对误差（MAE），训练后的ComModel可作为社交平台未知压缩算法的可微近似形式。

步骤三：抗压缩对抗性图像生成

构建优化目标，将ComModel融入到对抗性图像的优化过程中，并使用基于动量的迭代方法(MI-FGSM)进行优化，最终使得生成的对抗性图像具有较好的抗压缩能力。

研究人员表示，该方案不需要任何压缩算法的细节，仅根据适量的原图和压缩图的数据集，便能训练得到未知压缩算法的近似形式，并进一步生成相应的抗压缩对抗性图像，因此，该方案能应用于所有社交平台保护用户隐私。

实验结果

研究团队进行了本地仿真测试（JPEG、JPEG2000、WEBP）和真实的社交平台（Facebook、微博、豆瓣）测试。

本地仿真测试的结果显示，ComReAdv这一方法在「抗压缩」方面超越了SOTA方法，并且，可以有效抵抗不同的压缩方法，具有可扩展性。

而真实社交平台测试的结果也表明，该方法能显著提高对抗性图像的抗压缩能力。

在被不同的压缩方法压缩后，误导Resnet50分类模型的成功率达到了最先进的水平，在微博上可以达到90%以上的成功率。

关于作者

论文一作王志波，是武汉大学国家网络安全学院教授、博士生导师。

王志波教授本科毕业于浙江大学信息学院自动化专业，2014年获美国田纳西大学计算机工程博士的学位。

目前的研究方向包括物联网、移动感知与计算、大数据、网络安全与隐私保护、人工智能安全。

对于这项研究，王志波教授表示：

我们认为这项技术可以被所有社交网络用户采用，来防止分享图像被非法滥用、识别。当然，模型的抗压缩能力仍需进一步提高，我们团队接下来会对此进行更深入的研究。

— 完 —

下载1：动手学深度学习

在CVer公众号后台回复：动手学深度学习，即可下载547页《动手学深度学习》电子书和源码。该书是面向中文读者的能运行、可讨论的深度学习教科书，它将文字、公式、图像、代码和运行结果结合在一起。本书将全面介绍深度学习从模型构造到模型训练，以及它们在计算机视觉和自然语言处理中的应用。

下载2：CVPR /  ECCV 2020开源代码

在CVer公众号后台回复：CVPR2020，即可下载CVPR 2020代码开源的论文合集

在CVer公众号后台回复：ECCV2020，即可下载ECCV 2020代码开源的论文合集

重磅！CVer-人脸 交流群成立

扫码添加CVer助手，可申请加入CVer-人脸 微信交流群，目前已满1000+人，旨在交流人脸识别、人脸检测、人脸对齐等。

同时也可申请加入CVer大群和细分方向技术群，细分方向已涵盖：目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch和TensorFlow等群。

一定要备注：研究方向+地点+学校/公司+昵称（如人脸+上海+上交+卡卡），根据格式备注，可更快被通过且邀请进群

▲长按加微信群

▲长按关注CVer公众号

整理不易，请给CVer点赞和在看！