AI一周热闻：云从对外出口AI监控工具；高通放弃收购恩智浦；亚马逊人脸识别出现严重错误

作者｜Jack Clark

编译 & 编辑 | Debra

AI 前线导读：

- 高通宣布放弃收购恩智浦

- Ian Goodfellow 讽刺论文同行审议制度

- 中国自研“天河三号”Ｅ级超级计算机完成研制部署

- OpenAI 机械手臂像人手一样灵活转动

- 最该担忧的不是对抗样本或无人车，而是模糊图像

- 用 Blob 解决计数问题

- 预测 Dota 2 胜出状态，改善强化学习研究

- 深度学习和经典规划相结合，改善机器人性能

- 亚马逊人脸识别软件错将国会议员认成罪犯

- 云从科技出口 AI 监控工具

- 英国加强外资对技术投资的监测，AI 是重点

更多干货内容请关注微信公众号“AI 前线”，（ID：ai-front）

高通宣布放弃收购恩智浦



7 月 25 日，高通宣布未能获得中国监管机构的批准，将放弃对恩智浦半导体价值 440 亿美元收购竞价，但需为此支付恩智浦 20 亿美元赔偿金。

因为高通总收入有将近三分之二来自中国，高通收购恩智浦需要获得中国政府的批准，但在中国——高通需要咨询的全球九大监管机构中的最后一家，高通遭到绝杀，导致全球最大芯片并购案告吹。

雪上加霜的是，高通还因与苹果之间的持续法律纠纷而失去后者 iPhone 机型所使用的零部件的订单。据悉，苹果将推迟让高通作为其长期的蜂窝调制解调器供应商的计划。

此次全球最大的芯片并购案的失败可能会阻碍其他有意在中国市场进行收购的美国企业的计划。

Ian Goodfellow 讽刺论文同行审议制度

近日，谷歌大脑研究科学家 Ian Goofellow 发推嘲讽现行的论文同行审议制度，引起了大家激烈的讨论。



他认为，最近 Zachy Lipton 和 Jacob Steinhardt 在 ICML 2018 期间总结的机器学习研究中的怪现状，即无法区分客观阐述和猜想。无法确定达到好效果的来源，例如，当实际上是因为对超参数微调而获得好效果的时候，却强调不必要修改神经网络结构。数学性：使用令人混淆的数学术语而不加以澄清，例如混淆技术与非技术概念。语言误用，例如，使用带有口语的艺术术语，或者过多地使用既定技术术语。而导致这些问题的原因就在于同行评审机制。Ian Goodfellow 的观点得到了 Zachy Lipton 的赞同，表示同行评审机制的退化也应该被列在在文章的「原因」章节之下。

这条推特引发了人们对于同行评审机制的质疑和批判。

中国自研“天河三号”Ｅ级超极计算机完成研制部署

据新华社报道，我国自主研发的新一代百亿亿次超级计算机——“天河三号”Ｅ级原型机已在国家超级计算天津中心完成研制部署，并顺利通过分项验收。

据了解，该原型机系统采用了三种国产自主高性能计算和通信芯片。而在此基础上，“天河三号”超级计算机预计于 2020 年研制成功。

OpenAI 机械手臂像人手一样灵活转动

OpenAI 实验室利用此前用来打 DOTA 2 游戏的 OpenAI Five，训练机械手臂灵活转动木块。

这套系统名为 Dactyl，这个 5 根手指、24 各关节的机械手由背后的强化机器学习算法驱动。



机械手虽然已经有数十年的发展，但是操纵物体的能力一直得不到有效提高。OpenAI 认为，要靠传统的机器人学方法来解决灵巧操控问题太慢了，现在，OpenAI 展示了机械手自己学习更复杂的操作，以及将模拟应用到现实世界中的能力。

最该担忧的不是对抗样本或无人车，而是模糊图像

国家机器人工程中心和 CMU 电气与计算机工程系的研究证明，基本的图像质量降低或雾度增加就会导致严重的性能问题。研究员 Phil Koopman 在该研究文章中写道：“性能会因为几乎不可察觉的变化而发生灾难性变化。” “不需要对抗攻击破坏基于机器学习的感知，仅图像质量降低，如模糊或雾化就会导致问题”。

研究人员测试了三种不同架构的算法（速度更快的 R-CNN， Single Shot 检测器（SSD）和基于区域的完全卷积网络（R-FCN））。他们使用各种功能提取器，通过在 NREC 的“农业人员检测数据集”上进行测试来评估这些算法。研究人员对图像应用了两种类型的 mutators：修改图像的“简单”mutator 和修改图像的“上下文”mutator。为了测试“简单”mutator，他们应用简单的图像变换，如高斯模糊、JPEG 压缩、添加盐噪声和胡椒噪声等。对于“上下文”，mutator，他们对图像进行雾化。

结果显示，很少有探测器可以免受这些扰动的影响，SSD 受到的影响最大，而一些系统能够非常灵活地对这些变化做出反应，即“广义的稳健性趋势”，这可能成为未来研究人员进行评估的标志。

阅读更多：

将图像处理置于上下文中：安全感知的稳健性测试（https://safeautonomy.blogspot.com/2018/07/putting-image-manipulations-in-context.html）。

在上下文中进行图像操作：安全感知的稳健性测试（https://users.ece.cmu.edu/~koopman/pubs/pezzementi18_perception_robustness_testing.pdf）。

用 Blob 解决计数问题

精确计算场景中的物体，例如道路上的汽车数量或穿过城市的人，这对于人类和机器人来说都是个具有挑战性的任务。研究人员正在训练对象计数器使用点来标记各个实体，表示每个实体，而不是典型的像素分割 mask 或边界框。“我们提出了一种新颖的损失函数，它鼓励模型输出实例区域，使每个区域包含一个对象实例（即用单个点级注释），”他们解释道。相对于基于分割和深度的其他 baseline，这一调整显著提高了性能。他们在各种数据集上测试了这一方法，包括停车场图像、交通摄像头拍摄图像、企鹅的图像、PASCAL VOC 2007，另一个名为 MIT Traffic 的监视数据集和人群计数数据集。

目标计数对于 AI 系统来说是一项艰巨的任务，此方法表明可以另辟蹊径解决这个问题。在未来，研究人员希望设计新的网络架构，以便更好地区分具有复杂形状和外观的重叠目标。

阅读更多：

Blob 在哪：通过点监控进行本地化计数（https://arxiv.org/abs/1807.09856）。

预测 Dota 2 胜出状态，改善强化学习研究

研究人员已经训练了一个用于预测特定团队在在线游戏 Dota 2 中输赢的概率。这恰逢全球各地的研究人员试图将 MOBA 变成强化学习测试平台之时。

为了训练他们的模型，研究人员从超过 100,000 个 Dota 2 比赛中下载并解析了重播文件，每 60 秒为一个周期，生成离散数据位，其中包含一个对该时间点玩家状态进行编码的向量。然后，他们使用这些片段建成一个时间点“Time Slice Evaluation”（TSE）模型，该模型通过给定时间点预测结果。研究人员发现了游戏时间、比赛最终结果，以及此时正在研究的片段中包含数据之间的某些相关性。具体来说，他们发现在游戏进行到 50％之后，训练模型准确预测输赢变得相当容易，因此他们使用这些数据训练系统。

结果显示，由此产生的系统可以成功预测结果，并且比专门预测比赛胜利概率的订阅服务“Dota Plus”平均准确率高 3%。该研究未来的方向是在前 50％的比赛时间内进行训练，这就需要算法创新来应对早期比赛的不稳定性。另一种方法是使用递归神经网络系统，让预测不是基于单个时间片段，而是可以根据片段序列进行预测。

MOBA 正在迅速成为高级强化学习方法的试验平台，很多公司也在实验 Dota 等游戏。此论文让我们更好地了解了利用这些平台需要继续进行的具体工作。

阅读更多：MOBA-Slice：基于时间片断评估 MOBA 游戏（Arxiv）团队相对优势的框架（https://arxiv.org/abs/1807.08360）

深度学习和经典规划相结合，改善机器人性能

因果 InfoGAN 是一种用于学习研究人员称之为“动态系统可规划表示”的技术。因果 InfoGAN 通过观察环境（例如，模拟迷宫）并进行探索，通过探索来进行空间表示，然随后用其构建计划并导航。

测试结果显示，因果 InfoGAN 可以开发更丰富的迷宫表示，并可以使用这些表示来创建合理的导航轨迹。在另一项任务中，他们展示了 Causal InfoGAN 是如何学习执行多阶段任务的，该任务需要搜索找到钥匙，解锁并继续前进。

该技术表明，通过将经典人工智能系统中已开发多年的技术——在限制条件下进行规划，与基于深度学习的方法对其进行结合，可以更容易地获取有关环境的信息。

阅读更多：使用因果 InfoGAN（Arxiv）学习可计划表示（https://arxiv.org/abs/1807.09341）。

亚马逊人脸识别软件错将国会议员认成罪犯

ACLU（美国公民自由协会）一直在反对美国执法机构使用亚马逊的 Rekognition 软件。根据其最新调查，美国政府使用该软件对所有国会议员与 2,500 张面部照片进行比对，结果错将 28 名成员与罪犯照片相匹配。虽然样本中的错误率为 5％，但非白色人种的错误识别率为 39％。

对此，Matt Wood（亚马逊人工智能总经理）在博客文章中回应道，这一结论具有误导性，因为 ACLU 使用了 80％的默认置信度，而亚马逊建议将“重要”用途设置为 99％。他辩称，结果产生 bias 反映了面部照片数据库本身的 bias。

亚马逊对有偏见样本集的回应恰恰正是 ACLU 和其他人所指出的问题。美国的 Mugshot 和其他犯罪数据库反映了美国刑事司法系统中的种族偏见。如果不采取积极措施，这些偏见将被使用这些数据库的工具继承并巩固。我们不了解代理商是否会采取亚马逊的建议将置信度调整到 99％，但考虑到错误识别的潜在危害，允许这些客户采用更低的设置似乎是不明智的。

阅读更多：

亚马逊人脸识别错将 28 位国会议员认成罪犯（https://www.aclu.org/blog/privacy-technology/surveillance-technologies/amazons-face-recognition-falsely-matched-28）。

亚马逊回应（https://aws.amazon.com/cn/blogs/aws/thoughts-on-machine-learning-accuracy/）。

云从科技出口 AI 监控工具

中国公司云从科技与津巴布韦政府建立了合作伙伴关系，为其提供大规模人脸识别技术。该合同显示，云从科技可以访问数百万津巴布韦人的数据库。津巴布韦没有保护生物识别数据相关立法，这让公民几乎没有任何可以阻止监控计划的实施或数据输出的选择。这个庞大的数据集可能对云从科技训练公司系统种族多样化方面具有重要价值。

这个故事反映出启用 AI 监控涉及的两个主要道德问题。专制政权是采用这些技术的巨大潜在市场，这可能会导致其加强对公民的控制，以及人权保护的灾难性后果。与此同时，随着发达国家的数据管理变得更加强大，企业越来越多地将其活动“外包”到监管松懈的国家。这种合作关系会让此类问题相互作用，专制政府购买监控技术，并用公民的数据作为支付费用。

阅读更多：中国科技公司需要非洲面孔（https://foreignpolicy.com/2018/07/24/beijings-big-brother-tech-needs-african-faces/）

英国加强外资对技术投资的监测，AI 是重点

英国宣布已通过提案，加强政府对可能造成国家安全风险的外资收购案的审查。这些措施涵盖所有部门，但将“先进技术”和“军事和两用技术”作为核心重点领域，这表明人工智能将成为计划的重中之重。

美国立法者目前正在考虑增强 CFIUS 性能的提议，CFIUS 是美国政府控制外国投资的工具。

这表明，政府意识到保持对先进技术控制权的重要性。研究一下政府的管控范围，以及这些措施是否可以成为阻碍技术投资的手段是很有意思的一件事。值得注意的是，他们对国家安全风险的定义相当宽泛，不仅限于军事或情报考虑，还包括敌对方获得优于英国的战略影响力的风险。

阅读更多：国家安全和投资白皮书（https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/728311/20180717_Statement_of_policy_intent_-_shared_with_comms.pdf）

作者 Jack Clark 有话对 AI 前线读者说：我们对中国的无人机研究非常感兴趣，如果你想要在我们的周报里看到更多有趣的内容，请发送邮件至：jack@jack-clark.net。

原文链接：

https://jack-clark.net/2018/07/30/import-ai-105-why-researchers-should-explore-the-potential-negative-effects-of-their-work-fusing-deep-learning-with-classical-planning-for-better-robots-and-who-needs-adversarial-examples-when-a/

如果你喜欢这篇文章，或希望看到更多类似优质报道，记得给我留言和点赞哦！