穿上这件全球首款「隐形衣」，做这条街最「无脸」的仔；阿里给钱给资源，求解AI安全难题

金磊 发自 凹非寺
量子位 报道 | 公众号 QbitAI

真的存在「隐形衣」吗？

在人脸识别无处不在的今天，这个倒是可以有。

只要穿上这么一件T恤，就能骗过人脸识别AI，从而达到「隐身」效果。

这就是由美国东北大学和MIT等研究机构，共同提出的Adversarial T-shirt——基于对抗样本的T恤衫。

据研究人员介绍，这是全球首个在非刚性物体(如T恤)上，进行的物理对抗性实例。

也就是说，在被AI检测过程中，无论衣服发生任何褶皱或变形，都能达到「隐身」效果。

并且，这项研究已经入选计算机视觉顶级会议 ECCV 2020 的焦点论文（SpotlightPaper）。

而这，也引发了人们对人工智能时代下，安全隐患的思考。

T恤上的「印花」就能愚弄AI

其实，达到所谓的「隐身」效果，其实就是愚弄AI的「视觉系统」。

这项研究也一定程度说明，目前所谓比较成熟的计算机视觉技术，具有一定的脆弱性。

例如，目前很多公司上班打卡都是通过人脸认证，但若是哪天穿了这种具有「对抗性」的T恤，迟迟打不上卡……

嗯，那种焦灼痛苦，你品，你细品。

那么，这款T恤的隐形效果到底是如何实现的呢？

这里所涉及到的关键技术就是对抗攻击 （Adversarial Attack），目的就是让AI模型做出误判。

研究人员设计这款「隐形衣」的过程中，主要分为三个步骤：

• 首先，让实验人员穿着印有棋盘图案的T恤走动并录视频，将视频中的帧作为训练数据。

• 其次，将通用的对抗性扰动应用于布料区域。

• 最后，优化对抗性扰动，优化过程通过反向传播，作为一个闭环而进行。

这个过程中，一个关键因素就是解决T恤因褶皱、变形，所导致的降低攻击成率问题。

对此，研究人员提出了一种叫做TPS （Thin Plate Spline）变化的方法，来模拟衣服褶皱的情况。

然后将得到的TPS变化，融入到 EOT （Expectation over Transformation）算法中，这样就可以在现实世界的非刚性物体上，生成对抗样本。

再从定量分析的角度来看，研究人员提出的方法，在Faster R-CNN和YOLOv2模型上的攻击成功率，分别达到了61%和74%。

但也正如研究人员所说：

这个攻击方法并不是完美的。

如下图所示，方法对于角度和距离还是比较敏感的——较大的变形角度、较远的距离，都会让攻击成功率下降。

全球首个针对目标检测算法的对抗攻击竞赛

从这样的一件T恤中，我们可以发现，AI模型还是比较脆弱的。

或许在我们人类眼中，轻微的图像扰动并不会造成失误判断，但对于AI模型来说却不是如此。

安全，向来是个不可忽视，且需要持续关注的问题，新鲜的血液和思想的碰撞必不可少。

像穿了一件具有「对抗性」图案的T恤，就识别不出人脸，打不上卡这种事情，也会对我们的日常生活造成困扰。

为了抵御未来AI面临的安全风险，阿里安全携手清华大学，联合举办安全AI挑战者计划：

以对抗样本为核心，提供场景、技术、数据、算力等支持，召集“挑战者”以防守者的身份，共同打磨AI模型安全；为广大安全爱好者提供数字基建安全的试炼场，在高难度的真实环境中提升技术，培养真正有安全实战能力的安全基建人才。

2019年8月-2020年3月，挑战者计划第一季成功举办第一期人脸对抗识别比赛、第二期ImageNet图像对抗比赛、第三期辱骂场景文本对抗比赛。

共吸引了全球200多所高校100多家企业的近4000支队伍参加。

挑战者计划去年重在算法领域深耕，今年在赛题设计上致力于实现 AI 算法和网络安全的融合，旨在打破行业机器学习 / 深度学习一家独大的情况，引领 AI 技术在落地时一定程度上结合传统技术，运用多种技术组合解决业务问题，更好地抵御深度学习时代的安全问题。

并且，挑战者计划第二季第四期已启动！详情如下。

第四期题目价值

阿里安全举办了全球首个结合黑盒白盒场景，针对多种目标检测模型的对抗攻击竞赛。

比赛采用COCO数据集，其中包含20类物体。

比赛任务是通过向原始图像中添加对抗补丁（adversarial patch）的方式，使得典型的目标检测模型不能够检测到图像中的物体，绕过目标定位。

为了更好的评价选手的攻击效果，阿里安全创造了全新的得分计算准则——除了加入攻击成功率之外，还对添加补丁的数量和大小进行了约束。

选手添加的补丁数量、修改的像素和模型识别到的包围盒越少，则代表攻击更加成功，得分则越高。

此外，为了保证比赛的难度，阿里安全选取了4个近期的SOTA检测模型作为攻击目标，包括两个白盒模型——YOLO v4和Faster RCNN和另外两个未知的黑盒模型。

赛程安排

双周榜-算力自由

为满足选手因疫情在家服务器短缺的痛点，特发起「挑战者服务器免费送」活动。

• 玩法：每两周公布一次排行榜（8月3日、8月17日、8月31日），TOP 6队伍将获得1000元的阿里云服务器代金券，可兑换购买任意服务器。

• 规则：共三轮双周榜，TOP 6队伍如有重复，则顺延1000元服务器名额（为保证更多同学享受算力自由）；作为心灵慰藉，重复的队伍将收到200元天猫超市购物卡。

• 产品可选择按量和包月，具体可自由选择。

激励设置

挑战者计划第二季总奖金池为200万元，本期总奖金为68000元，此外还有近10万的奖品福利：

• 奇思妙想奖：阿里巴巴20周年限定勋章礼盒（奖励给思路有创意的同学，上不设限）

• 荣誉证书：前十名队伍和奇思妙想奖，每位同学都将获得阿里和清华共同颁发的顶级证书

• 线下颁奖：优秀队伍将受邀参加10月的CIKM会议，并在国际舞台担任speaker分享思路

• 绿色通道：总成绩排名Top20的队伍，可获得阿里安全校招绿色通道

• Pioneering Award奖：通过比赛发表高水平学术论文，前两位获得1万元奖励

• 线下特训营：Top20选手将获得差旅全包到阿里安全总部的游学机会

• 比赛潮物福利：限定潮T、手工黄铜酒杯、清新茶具、洋气香薰机、纯牛皮精英书包等

• 邀请好友奖：邀请对应数量的同学报名比赛，将获得59-759元的精致礼物。具体玩法请到比赛官网了解（点击底部阅读原文）
  

如此有趣、刺激的挑战，还有这么丰厚的奖励，你有心动吗？

— 完 —

本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容，未经账号授权，禁止随意转载。

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态

喜欢就点「在看」吧 !