专知, 为人工智能从业者服务!

知识图谱在亚马逊产品的应用，79页ppt，亚马逊XIN LUNA DONG

这本书的三个主要部分对应了论文从构思到出版的三个主要阶段: 计划、写作和出版。在这本书的各个章节中，一些复杂的问题如“如何写导言?”或“如何提交手稿?”，这些问题会被分解成更小、更容易处理的问题，然后以直接、对话的方式进行讨论，提供轻松愉快的阅读体验。

以母语不是英语的科学家为目标，撰写和发表科学论文，在该领域脱颖而出。在谈到文体和语法问题的同时，这本书的主要目标是就沟通的首要原则提出建议。

这本书是一个极好的资源，任何学生或科学家希望了解更多关于科学出版过程和科学传播。对于那些来自英语世界以外、想要寻找一本全面的英文出版指南的人来说，这本书尤其有用。

成为VIP会员查看完整内容

知识图谱

关注 1543

知识图谱（Knowledge Graph），在图书情报界称为知识域可视化或知识领域映射地图，是显示知识发展进程与结构关系的一系列各种不同的图形，用可视化技术描述知识资源及其载体，挖掘、分析、构建、绘制和显示知识及它们之间的相互联系。知识图谱是通过将应用数学、图形学、信息可视化技术、信息科学等学科的理论与方法与计量学引文分析、共现分析等方法结合，并利用可视化的图谱形象地展示学科的核心结构、发展历史、前沿领域以及整体知识架构达到多学科融合目的的现代理论。它能为学科研究提供切实的、有价值的参考。

知识荟萃

精品入门和进阶教程、论文和代码整理等

查看相关VIP内容、论文、资讯等

知识图谱推理：现代的方法与应用

ICDE2021 | 利用大规模知识图谱预训练改进对话推荐系统

人工智能的理论及实践知识图谱，160页pdf

http://www.meyn.ece.ufl.edu/

【导读】佛罗里达大学电子与计算机工程系教授Sean Meyn撰写的新书稿《强化学习与控制系统》，重点讲述了与强化学习最相关的控制基础，以及基于这些基础的RL算法设计的大量工具。

Sean Meyn，佛罗里达大学电子与计算机工程系教授兼Robert C. Pittman杰出学者主席，认知与控制实验室主任，佛罗里达可持续能源研究所所长。Sean于1982年获得加利福尼亚大学洛杉矶分校数学学士学位，于1987年获得麦吉尔大学电子工程博士学位。他的学术研究兴趣包括决策和控制的理论与应用，随机过程和优化。他在这些主题上的研究获得了许多奖项，并且是IEEE会士。

为了定义强化学习(RL)，首先需要定义自动控制。例如，在你的日常生活中，可能包括你的汽车巡航控制，你的空调恒温器，冰箱和热水器，以及现代的衣物烘干机的决策规则。有收集数据的传感器，有收集数据以了解世界状态的计算机”(汽车以正确的速度行驶吗?毛巾还湿吗?)，根据这些测量结果，由计算机驱动的算法会发出命令来调整需要调整的东西:油门、风扇速度、加热盘管电流，或者……更令人兴奋的例子包括太空火箭、人造器官和微型机器人来进行手术。RL的目标是真正自动的自动控制:没有任何物理学或生物学或医学知识，RL算法调整自己成为一个超级控制器: 最平稳的飞行进入太空，和最专业的微型外科医生! 这个梦想在大多数应用中肯定是遥不可及的，但最近的成功故事鼓舞了工业界、科学家和新一代学生。继2015年击败欧洲围棋冠军樊麾之后，DeepMind的AlphaGo再次刷新了世界纪录。不久之后的新闻是令人震惊的AlphaZero续集，它在“没有任何专家帮助的情况下”自学下国际象棋和围棋。这在现在看来已经不是什么新鲜事了，似乎每个月都会有新的突破。

今天的强化学习有两个同等重要的基础: 1. 最优控制:两个最著名的RL算法，TD-和q -学习，都是关于逼近最优控制的核心价值函数。2. 统计和信息理论。RL中的loration是本书的一大焦点，它强调了最优控制的几何性质，以及为什么创建可靠的学习算法并不困难。我们不会忽视第二个基础: 动机和成功的启发式将在不深入研究理论的情况下进行解释。读者将学到足够的知识，开始尝试自制的计算机代码，并拥有一个大的算法设计选择库。在完成这本书的一半之前，我希望学生能对为什么这些算法被期望是有用的以及为什么它们有时会失败有一个扎实的理解。

本书的重点是与强化学习最相关的控制基础，以及基于这些基础的RL算法设计的大量工具。

成为VIP会员查看完整内容

认知智能 · 研究报告 ·

7 月 16 日

2021年认知智能发展研究报告（附42页PDF全文）

【经典书】主动学习理论，226页pdf，Theory of Active Learning

历经半个世纪的发展，人工智能正在社会经济生活中发挥越来越重要的作用。认知智能是一种赋予机器模拟人类认知思考能力的技术，作为人工智能发展的高级阶段，具有交互性、情境性与适应性等特点。认知智能“能理解、会思考”的能力，可以极大地将人类从重复体力劳动和简单脑力劳动中解放出来。

当前，认知智能产业生态已初步形成，产业应用加快落地，技术研发持续突破，涌现出一批具有代表性的企业，俨然成为城市数字化浪潮中的关键驱动力。中国信息通信研究院华东分院联合竹间智能科技（上海）有限公司就人工智能全球态势、认知智能产业生态、技术融合、典型案例与未来趋势等方面开展了产业技术分析，形成《2021 认知智能发展研究报告》。

本报告由五大篇章组成：第一篇章：全球态势篇，对全球人工智能政策环境、发展现状与发展热点进行了详细介绍；第二篇章：产业生态篇，阐述了认知智能发展历程，并从行业生态、技术专利、学术研究和产业标准等方面展开具体分析；第三篇章：技术融合篇，阐述了当前认知智能领域情感计算、知识图谱、图像理解等六大行业技术领域的融合发展情况；第四篇章：典型案例篇，阐述了当前认知智能在金融、制造、教育等六大场景的应用落地总体情况与典型产品案例；第五篇章：未来趋势篇，总结了认知智能发展面临的问题挑战，对未来发展做出展望。

![](https://cdn.zhuanzhi.ai/vfiles/cda708330603af4a33f9306eed4532e3)

成为VIP会员查看完整内容

主动学习 ·

7 月 14 日

主动学习是一种有监督的机器学习协议，其中学习算法从大量未标记数据中序列地请求选定数据点的标签。这与被动学习形成了对比，被动学习是随机获取有标记的数据。主动学习的目标是产生一个高度精确的分类器，理想情况下使用的标签要比被动学习达到同样目的所需的随机标记数据的数量少。这本书描述了我们对主动学习的理论益处的理解的最新进展，以及对设计有效的主动学习算法的启示。文章的大部分内容都集中在一种特殊的方法上，即基于不同意见的主动学习，到目前为止，这种方法已经积累了大量的文献。它还从文献中简要地考察了几种可供选择的方法。重点是关于一些一般算法的性能的定理，包括适当的严格证明。然而，本文的目的是教学，集中于说明基本思想的结果，而不是获得最强或最普遍的已知定理。目标受众包括机器学习和统计学领域的研究人员和高级研究生，他们有兴趣更深入地了解主动学习理论最近和正在进行的发展。

成为VIP会员查看完整内容

ICML 2021 · 机器学习 ·

ICML2021论文太多看不过来？这份《一句话点评1183篇论文亮点》帮你快速找到想看的

如何洞晓深度学习中记忆与注意力机制？这份Deakin大学212页博士论文给您做解答

ICML 2021的论文接收结果已经公布，今年一共有5513篇有效投稿，其中1184篇论文被接收，接收率为21.5% 。另外在这1184篇被接收论文中，有166篇长presentations和1018篇短presentations。

1000多篇论文不可能看过来，那怎么办？最近Paper Digest Team发布了一个《一句话点评论文亮点的系统，涵盖1183篇论文的亮点，有122页pdf之多，这样大大帮助读者锁定想看的论文！

地址： https://www.paperdigest.org/2021/07/icml-2021-highlights/

每一行是一篇论文，包含论文题目、作者和论文摘要亮点。读者直接点击论文题目可跳转到论文pdf页面查看下载。

总共包含了1183篇论文！

为了帮助社区快速查找会议上的工作，Paper Digest团队处理所有被接受的论文，并为每篇论文生成一个亮点总结(通常是主要主题)。鼓励读者阅读这些机器生成的要点/摘要，以快速获得每篇论文的主要思想。

成为VIP会员查看完整内容

深度学习 · 注意力机制 · 记忆机制 ·

7 月 7 日

【干货书】编程面试的终极指南, 708页pdf189个编程问题和解决方案

智能需要记忆。没有记忆，人类就无法完成各种重要的任务，比如读小说、玩游戏或解决数学问题。机器学习的最终目标是开发出像人类一样自动学习和行动的智能系统，因此机器的记忆构建是必然的。人工神经网络通过权值将计算单元连接起来，对大脑中的神经元和突触进行建模，这是一种典型的类似于记忆结构的机器学习算法。他们的后代拥有更复杂的建模技术(即深度学习)，已经成功地应用于许多实际问题，并证明了记忆在机器系统学习过程中的重要性。近年来，深度学习中记忆建模的研究主要围绕外部记忆结构展开，受到计算图灵模型和生物神经元系统的启发。注意力机制的产生是为了支持外部记忆的获取和保留操作。尽管缺乏理论基础，这些方法已经显示出帮助机器系统达到更高智能水平的希望。本文的目的是提高对深度学习中记忆和注意力的认识。它的贡献包括: (i) 呈现记忆分类的集合，(ii)构建支持多个控制和记忆单元的新的记忆增强神经网络(MANN)， (iii)通过序列生成模型中的记忆引入可变性，(iv)在基于槽的记忆网络中寻找最佳的写操作以最大限度地提高记忆能力;(v)通过神经网络的一种新型外部存储器——神经存储程序存储器来模拟通用图灵机。

目录内容： 1 Introduction 2 Taxonomy for Memory in RNNs 3 Memory-augmented Neural Networks 4 Memory Models for Multiple Processes 5 Variational Memory in Generative Models 6 Optimal Writing Memory 7 Neural Stored-Program Memory 8 Conclusions

在这篇论文中，我们介绍了神经网络的几种记忆类型，特别是递归神经网络(RNNs)。我们强调记忆作为RNN的外部存储的概念，其中rnn可以学习读写外部记忆，以支持其工作记忆(第2章)。我们回顾了解决训练RNN困难的进展，如门控和注意机制，特别是基于槽的MANN，这是本文第三章提出的新模型的主要内容。我们的主要贡献有四方面。首先, 我们MANN作为一个多进程多视点模型来处理复杂的问题,如sequence-to-sequence映射和多视角序列学习(第四章)。我们进一步扩展MANNs作为离散序列的模型生成会话数据可变性和一致性要求(第5章)。我们也解释到内存中最后，我们介绍了一类新的MANN，它遵循存储程序存储原理，可以通过切换控制器的程序来执行不同的功能。

成为VIP会员查看完整内容

编程面试 ·

7 月 5 日

我不是招聘人员。我是一个软件工程师。正因为如此，我知道被要求当场想出聪明的算法，然后在白板上写出完美的代码是什么感觉。作为一个求职者和面试官，我都经历过这些。

破解编码面试，第六版是在这里帮助你通过这个过程，教你需要知道的，并使你在你最好的表现。我曾经指导和面试过成百上千的软件工程师。结果就是这本书。

学习如何发现问题中的提示和隐藏的细节，如何把问题分解成易于处理的小块，学习技术让自己摆脱困境，学习(或重新学习)核心的计算机科学概念，并练习189个面试问题和解决方案。

这些面试问题都是真实的;它们不是从计算机科学教科书中抽出来的。它们反映了顶级公司真正要问的问题，所以你可以尽可能地做好准备。里面有什么

189个编程面试问题，从基础到最棘手的算法问题。
一个如何推导每个解决方案的演练，以便您可以学习如何自己到达那里。
如何解决这189个问题的提示，就像你在真正的面试中会得到的那样。
解决算法问题的五种已被证实的策略，这样你就可以解决你从未见过的问题。
广泛覆盖基本主题，如大O时间，数据结构，和核心算法。
看看像谷歌和Facebook这样的顶级公司是如何雇佣开发人员的。
准备并战胜面试软面的技巧:行为性问题。
对于面试官和公司:详细说明怎样才能提出一个好的面试问题和招聘流程。

成为VIP会员查看完整内容

强化学习 ·

【重磅推荐】清华大学李升波老师《强化学习与控制》

【伯克利丁鹏博士万字长文】因果推断—现代统计的思想飞跃:过去、现在到未来

《强化学习与控制》是一门由清华大学智能驾驶课题组李升波教授亲自讲授的强化学习课程，该课程总共包含11讲，以理论基础与算法设计融合的方式介绍了RL的框架体系，从优化角度梳理了直接法与间接法，带模型与免模型等类别，并对典型算法原理和特性进行了分析和总结，是一门兼顾基础入门、进阶提升的强化学习课程。

一、关于课题组

智能驾驶课题组(iDLab, Intelligent Driving Lab) 面向下一代机器学习和自动控制的交叉理论探索，聚焦智能网联汽车和驾驶辅助系统的核心技术研发，进一步提升汽车的智能性、安全性和节能性。 http://www.idlab-tsinghua.com/thulab/labweb/index.html

二、关于主讲老师：李升波教授

李升波，清华大学长聘教授，博导，车辆学院副院长。留学于斯坦福大学，密歇根大学和加州伯克利大学。从事自动驾驶、智能汽车、强化学习、最优控制等研究。发表论文110余篇，引用>8500次，H因子45。入选IEEE高关注度及封面论文3篇，ESI高引10篇（学科前1%），学术会议最佳论文奖8次。获中国汽车工业科技进步特等奖、国家科技进步二等奖、国家技术发明二等奖等。入选国家高层次科技创新领军人才、交通运输行业中青年科技创新领军人才、中国汽车行业优秀青年科技人才奖、首届北京市基金委杰青、清华大学教师学术新人奖等。担任AI国际评测MLPerf自动驾驶咨询委员会委员、IEEE智能交通系统学会的全球理事会委员、IEEE Trans on ITS副主编等。

三、关于《强化学习与控制》课程

目前，人工智能的快速崛起正重塑人类社会的各个领域，有望引导工业文明进入新一轮革命浪潮。以道路交通为例，汽车的智能化变革促使整个行业发生了翻天覆地的变化，包括驾驶辅助、自动驾驶、云控协同等一系列新技术如雨后春笋般涌现，它们在提升地面车辆行驶性能的同时，也为解决交通事故、排放污染、城市拥堵等问题提供了一条可行的途径。

以模仿人类大脑学习机制为原理的强化学习（RL，Reinforcement Learning）正迅速进入人们的视野，它为大规模复杂系统的学习及动态系统的高实时在线控制提供了一套极具前景的解决方案。一个引人注目的成功案例是以Alpha Go为代表的围棋智能：它利用深度强化学习算法实现围棋智能的自我进化，自我超越，打败人类最好的专业棋手。尽管强化学习具有优异的潜在优势，但是该方法的工程应用尚属于起步阶段。

《强化学习与控制》这一门课程包括11节。

第1讲介绍RL概况，包括发展历史、知名学者、典型应用以及主要挑战等。

第2讲介绍RL的基础知识，包括定义概念、自洽条件、最优性原理问题架构等。

第3讲介绍免模型学习的蒙特卡洛法，包括Monte Carlo估计，On-policy/off-policy，重要性采样等。

第4讲介绍免模型学习的时序差分法，包括它衍生的Sarsa，Q-learning，Expected Sarsa等算法。

第5讲介绍带模型学习的动态规划法，包括策略迭代、值迭代、收敛性原理等。

第6讲介绍间接型RL的函数近似方法，包括常用近似函数，值函数近似，策略函数近似以及所衍生的Actor-critic架构等。

第7讲介绍直接型RL的策略梯度法，包括各类Policy Gradient, 以及如何从优化的观点看待RL等。

第8讲介绍深度强化学习，即以神经网络为载体的RL，包括深度化典型挑战、经验性处理技巧等。

第9讲介绍带模型的强化学习，即近似动态规划，包括离散时间系统的ADP，ADP与MPC的关联分析等。

第10讲介绍有限时域的近似动态规划，同时介绍了状态约束的处理手段以及它与可行性之间的关系

第11讲介绍RL的各类拾遗，包括POMDP、鲁棒性、多智能体、元学习、逆强化学习以及训练平台等。

成为VIP会员查看完整内容

因果推断 ·

7 月 16 日

探求事物的原因，是人类永恒的精神活动之一。从古希腊的哲学到中国先秦的诗歌，都充满了对原因的追问和对因果关系的思考。比如，亚里士多德就在《物理学》（Physics）和《形而上学》（Metaphysics）两书中反复强调，我们只有知道了事物的原因，才能算真正理解这个事物。又如，屈原在《天问》开篇，就追问日月星辰运行的原因。

长期以来，人们一方面好奇地追问原因和结果的关系，一方面又苦于这些概念的模糊性。于是，这些话题在很长一段时间都仅仅局限在哲学和文学的范围内。精确地描述因果关系，尤其是用数学的语言来描述因果关系，则是非常近代的事情了。这一项思想飞跃，得益于现代统计学的发展。统计学家称之为“因果推断”（causal inference）。虽然因果推断在现代统计学的萌芽阶段就已经产生，但是它的发展并非一帆风顺：它长期被主流忽视、怀疑甚至攻击。直至最近四十年，尤其是最近十年，它才得到了广泛的认可和大力的研究，成为当今主流的研究方向之一。在最近的一篇文章中，Andrew Gelman 和 Aki Vehtari 评选了过去五十年中，统计学最重要的八个想法，排名第一的就是因果推断1。当今世界，很多年轻的学者加入了因果推断的研究，他们来自统计学、经济学、社会学、政治科学、教育学、流行病学、计算机科学、哲学等等领域。毫不夸张地说，统计因果推断的研究迎来了它发展的黄金时代。

本文将回顾统计因果推断的历史背景，评述中国因果推断研究的现状，并且大胆推测它未来的发展前景。

成为VIP会员查看完整内容

https://www.zhuanzhi.ai/paper/6a3ab7686edb4fbbc9b7fe15b7a349a4

数据增强是通过转换为机器学习人工创建训练数据，是机器学习学科中一个广泛研究的研究领域。虽然它对于提高模型的泛化能力很有用，但它也可以解决许多其他挑战和问题，从克服有限数量的训练数据到规范目标到限制数据量用于保护隐私。基于对数据增强的目标和应用的精确描述以及现有的分类法作品，该调查涉及用于文本分类的数据增强方法，旨在实现简洁和研究人员和从业人员的综合概述。根据分类法，我们将100多种方法分为12不同的分组，并提供最先进的参考资料，阐述哪些方法非常有前途。最后，研究给出了可能构成未来工作基石的观点。

成为VIP会员查看完整内容

可解释机器学习 · 可解释性 · 机器学习 ·

7 月 19 日

可解释机器学习:基本原理和10大挑战

【干货】机器学习知识体系思维导图，一图让你理解所有概念

摘要：机器学习(ML)中的可解释性对于高风险决策和故障排除是至关重要的。在这项工作中，我们提供了可解释性ML的基本原则，并消除了淡化这一关键话题的重要性的常见误解。我们还确定了可解释机器学习的10个技术挑战领域，并提供了每个问题的历史和背景。这些问题中有些是典型的重要问题，有些是最近几年才出现的问题。这些问题包括: (1)优化决策树等稀疏逻辑模型; (2)评分系统优化; (3)在广义加性模型中放置约束，以促进稀疏性和更好的可解释性; (4)现代案例推理，包括神经网络和匹配因果推理; (5)神经网络的完全监督解缠; (6)神经网络的完全或部分无监督解缠; (7)数据可视化降维; (8)能够结合物理和其他生成或因果约束的机器学习模型; (9)良好模型的“罗生门集”的刻画; (10)可解释强化学习。该综述适合作为对可解释机器学习感兴趣的统计学家和计算机科学家的起点。

引言

随着机器学习(ML)的广泛应用，可解释性在避免灾难性后果方面的重要性变得越来越明显。黑箱预测模型的定义是不可思议的，它已经导致严重的社会问题，深刻影响健康、自由、种族偏见和安全。可解释预测模型受到限制，因此其推理过程更容易被人类理解，也更容易进行故障排除和在实践中使用。人们普遍认为，可解释性是AI模型信任的关键因素(Wagstaff, 2012; Rudin and Wagstaff, 2014; Lo Piano, 2020; Ashoori and Weisz, 2019; Thiebes et al., 2020; Spiegelhalter, 2020; Brundage et al., 2020)。在这项综述中，我们提供了基本原理，以及内在可解释机器学习模型设计中的10个技术挑战。

让我们提供一些背景资料。黑盒机器学习模型是一个公式，它要么太复杂，任何人都无法理解，要么是专有的，以至于人们无法理解其内部工作原理。黑盒模型很难排除故障，这对于医疗数据来说尤其成问题。黑箱模型通常会在错误的原因下预测正确的答案(“聪明的汉斯”现象)，导致在训练中表现优异，但在实践中表现不佳(Schramowski et al., 2020; Lapuschkin et al., 2019; O’Connor, 2021; Zech et al., 2018; Badgeley et al., 2019; Hamamoto et al., 2020)。黑盒模型还有许多其他问题。在刑事司法方面，个人可能会因为黑箱模型输入的印刷错误而遭受多年的额外监禁(Wexler, 2017)，而设计不佳的空气质量专有模型在野火期间对公共安全造成了严重后果(McGough, 2018);这两种情况都很容易用可解释模型来避免。在数据的底层分布发生变化的情况下(称为域转移，这在实践中经常发生)，如果用户不能实时地对模型进行故障排除，那么问题就会出现，而黑盒模型比可解释模型要困难得多。要确定一个黑箱模型在性别或种族群体方面是否公平，要比确定一个可解释的模型是否存在这种偏见要困难得多。在医学领域，黑盒模型将计算机辅助决策转化为自动决策，正是因为医生无法理解黑盒模型的推理过程。解释黑盒，而不是用可解释的模型替代它们，可能会通过提供误导性或错误的描述使问题变得更糟(Rudin, 2019; Laugel et al., 2019; Lakkaraju and Bastani, 2020)，或者给黑匣子增加不必要的权力(Rudin and Radin, 2019)。显然，我们需要具有内在可解释性的创新机器学习模型。

本综述的主要部分概述了可解释性机器学习中一系列重要和基本的技术重大挑战。这些挑战既有现代的，也有古典的，有些挑战要比其他的困难得多。它们要么很难解决，要么很难正确地表述。虽然有许多关于模型部署的社会技术挑战(可能比技术挑战困难得多)，人机交互挑战，以及健壮性和公平性如何与可解释性交互，这些话题可以留到以后讨论。我们从可解释机器学习中最经典和最规范的问题开始: 如何为表格数据建立稀疏模型，包括决策树(挑战#1)和评分系统(挑战#2)。然后我们研究了一个涉及加法模型的挑战(挑战#3)，接着是另一个基于案例推理的挑战(挑战#4)，这是可解释人工智能中的另一个经典主题。然后我们转向更奇特的问题，即在神经网络中有监督和无监督的概念解缠(挑战#5和#6)。回到经典问题，我们讨论降维(挑战#7)。然后，如何整合物理或因果约束(挑战#8)。挑战#9涉及到理解、探索和衡量罗生门精确预测模型集。挑战#10 讨论可解释强化学习。表1提供了一个指南，可以帮助用户将数据集与合适的可解释监督学习技术相匹配。我们将在挑战中涉及所有这些技术。

可解释机器学习原则

原则1: 一个可解释的机器学习模型遵循一组特定领域的约束，使其(或其预测或数据)更容易被人类理解。这些约束会根据域的不同而有很大的不同。
原则2：尽管有常见的修辞，但可解释的模型不一定能创造或促成信任——它们也可能导致不信任。它们只是让用户决定是否信任它们。换句话说，他们允许信任的决定，而不是信任本身。
原则3：重要的是，不要假设一个人需要牺牲准确性来获得可解释性。事实上，可解释性往往会带来准确性，而不是相反。在机器学习中，可解释性和准确性通常是一个错误的二分法。
原则4：作为整个数据科学过程的一部分，性能指标和可解释性指标都应该被反复地改进。
原则5：对于高风险的决策，如果可能的话，应该使用可解释的模型，而不是“解释”的黑盒模型

在这项综述中，我们希望为读者提供一个途径进入可解释机器学习的重要主题。目前有关可解释和可解释AI的文献可能会让人非常困惑。参与这一领域研究的个体多样性不仅包括统计学家和计算机科学家，还包括法律专家、哲学家和研究生，其中许多人从未建立或部署过机器学习模型。人们很容易低估说服别人在实践中使用机器学习模型的难度，而可解释性是一个关键因素。过去几年的许多工作都贡献了新的术语，错误地将旧的可解释机器学习领域纳入了新的领域“XAI”，而且评论论文普遍未能真正区分解释黑箱和设计可解释模型的基本概念。因为有误导性的术语，标题为“可解释性(explainability)”的论文有时是关于“可解释性(interpretability)”，反之亦然，所以很难理解文献(即使是我们)。至少，我们希望介绍一些基本原则，涵盖该领域的几个重要领域，并展示它们彼此之间的关系和与实际问题的关系。显然，这是一个我们无法真正涵盖的巨大领域，但我们希望我们涵盖的不同领域和提出的问题可能对那些需要进入这个迷宫的人有用。

成为VIP会员查看完整内容

机器学习 ·

7 月 14 日

【干货书】引擎顺序: 算法技术机制，353页pdf

机器学习是计算机科学的一个子领域，使计算机不需要明确的编程步棸就能够自主学习。它致力于通过学习数据和预测数据来建立各种算法。

机器学习的应用范围非常广泛。它涵盖数学，计算机科学和神经科学的多个领域。这是一个试图在一个PDF文件中来总结整个机器学习领域。

成为VIP会员查看完整内容

算法 ·

7 月 16 日

软件已经成为当代生活的一个关键组成部分，而对任何符合数字形式的东西进行排名、分类或推荐的算法技术无处不在。这本书在概念上和历史上接近信息排序的领域。以Gilbert Simondon的哲学和文化技术传统为基础，它首先考察了软件的建设性和累积性特征，并展示了软件制作如何不断利用现有知识和技术的大量储备。然后，它重建了一系列算法技术的历史轨迹，这些技术实际上已经成为当代秩序实践的基石。坐标索引、文本处理、机器学习和网络算法是相对于几个世纪的图书馆传统而发展起来的，它们实例化了动态的、视角主义的、感兴趣的安排信息、思想或人员的形式。在技术基础设施和经济逻辑的包围下，这些技术已经成为改变空间的有序引擎。

成为VIP会员查看完整内容

现代统计学 ·

【开放书】《现代统计学导论》，549页pdf

https://www.openintro.org/book/ims/

《现代统计学导论》是对之前的游戏《统计学与随机化和模拟导论》的重新构想。这本新书着重强调了探索性数据分析(特别是使用可视化、摘要和描述性模型探索多元关系)，并提供了使用随机化和引导的基于模拟的推理的全面讨论，接着介绍了基于中心极限定理的相关方法。

第1部分:数据介绍。数据结构、变量、摘要、图形、基本数据收集和研究设计技术。第2部分:探索性数据分析。数据可视化和总结，特别强调多变量关系。第3部分:回归建模。用线性和逻辑回归建模数值和分类结果，并使用模型结果来描述关系和作出预测。第4部分:推理的基础。案例研究被用来引入随机测试、bootstrap间隔和数学模型的统计推理的思想。第5部分:统计推断。使用随机化测试、引导间隔和数值和分类数据的数学模型的统计推断的进一步细节。第6部分:推理建模。扩展推理技术提出了迄今为止的线性和逻辑回归设置和评估模型性能。

我们希望读者能从本书中汲取三种思想，并为统计学的思维和方法打下基础。

统计学是一个具有广泛实际应用的应用领域。
你不必成为数学大师，也可以从有趣的、真实的数据中学习。
数据是混乱的，统计工具是不完善的。

地址：

成为VIP会员查看完整内容

知识图谱 · 亚马逊 (Amazon.com) ·

7 月 5 日

知识图谱在亚马逊产品的应用，79页ppt，亚马逊XIN LUNA DONG

https://web.stanford.edu/class/cs520/abstracts/dong.html

知识图谱已被用于支持广泛的应序，并增强了多个主要搜索引擎（如Google和Bing）的搜索结果。在亚马逊，我们正在构建一个产品图谱，一个全球所有产品的权威知识图。我们需要建立数千个产品垂直模型，我们需要从中提取知识的大量数据源，我们每天需要处理的大量新产品，以及我们希望支持的搜索、发现、个性化、语音等各种应用程序，都给构建这样一个图带来了巨大的挑战。

在本次演讲中，我们将介绍我们为数千种产品收集知识所做的努力。我们将介绍如何确定交付数据业务最重要的第一步：培训生成准确数据的高精度模型。然后，我们描述了如何通过从有限的标签中学习来扩展模型，以及如何通过多模式模型和web提取来提高收益率。我们分享了构建此产品图谱并将其应用于支持面向客户的应用的许多经验教训。

成为VIP会员查看完整内容

可信人工智能 ·

《可信人工智能白皮书》39页pdf，中国信通院联合京东探索研究院发布！

http://www.caict.ac.cn/kxyj/qwfb/bps/202107/t20210708_380126.htm

面对人工智能引发的全球信任焦虑，发展可信人工智能已经成为全球共识。2019年6月，二十国集团（G20）提出“G20人工智能原则”，强调要以人为本、发展可信人工智能，这一原则也得到了国际社会的普遍认同。欧盟和美国也都把增强用户信任、发展可信人工智能放在其人工智能伦理和治理的核心位置。将抽象的人工智能原则转化为具体实践，落实到技术、产品和应用中去，是回应社会关切、解决突出矛盾、防范安全风险的必然选择，是关系到人工智能长远发展的重要议题，也是产业界急需加快推进的紧迫工作。

论坛上发布了由中国信通院与京东探索研究院联合撰写的国内首本《可信人工智能白皮书》，白皮书从如何落实全球人工智能治理共识的角度出发，聚焦于可信人工智能技术、产业和行业实践等层面，分析了实现可控可靠、透明可释、隐私保护、明确责任及多元包容的可信人工智能路径，并对可信人工智能的未来发展提出了建议。

白皮书内容简介

本白皮书首次系统提出可信人工智能全景框架，全面阐述可信人工智能的特征要素，剖析了可信人工智能与人工智能科技伦理和治理的关系，促进业界更好的理解可信人工智能。

本白皮书针对可信人工智能中各种支撑技术从理论层面进行了深入浅出的剖析。将技术以稳定性、可解释性、隐私保护、公平性作为量化指标进行了完备的讨论，这些技术构成了可信人工智能地基础支撑能力。

本白皮书创新地从企业和行业实践视角详述可信人工智能的实践路径，是一份极具参考价值的实操指南，对于产业界进一步落实人工智能伦理及治理要求具有重要意义，能够切实推动人工智能产业健康发展。

本白皮书以动态的眼光分析可信人工智能发展脉络，同时对当下社会各界实践可信人工智能、完善可信生态，提出了务实的方案和发展建议。

本白皮书认为，可信人工智能已经不再仅仅局限于对人工智能技术、产品和服务本身状态的界定，而是逐步扩展至一套体系化的方法论，涉及到如何构造“可信”人工智能的方方面面。

下图给出了可信人工智能的总体框架。

成为VIP会员查看完整内容

https://www.zhuanzhi.ai/paper/9a9009dae03438c7a71e0bc1b54de0fa

由于神经网络的日益普及，对神经网络预测的信心变得越来越重要。然而，基本的神经网络不会给出确定性估计，也不会受到信心过度或不足的影响。许多研究人员一直致力于理解和量化神经网络预测中的不确定性。因此，不同类型和来源的不确定性已被识别，并提出了各种方法来测量和量化神经网络中的不确定性。本工作对神经网络中的不确定性估计进行了全面的概述，综述了该领域的最新进展，突出了当前的挑战，并确定了潜在的研究机会。它旨在给任何对神经网络中的不确定性估计感兴趣的人一个广泛的概述和介绍，而不预设在这一领域有先验知识。对不确定性的主要来源进行了全面的介绍，并将它们分为可约模型不确定性和不可约数据不确定性。本文介绍了基于确定性神经网络、贝叶斯神经网络、神经网络集成和测试时间数据增强等方法对这些不确定性的建模，并讨论了这些领域的不同分支和最新进展。对于实际应用，我们讨论不确定性的不同措施，校准神经网络的方法，并给出现有基线和实现的概述。来自不同领域广泛挑战的不同例子，提供了实际应用中有关不确定性的需求和挑战的概念。此外，讨论了当前用于任务和安全关键的现实世界应用的方法的实际限制，并展望了未来的步骤，以更广泛地使用这些方法。

成为VIP会员查看完整内容

http://images.china-pub.com/ebook8065001-8070000/8069565/ch01.pdf

现在的组织收集了大量的数据。要使数据对组织产生价值，就必须通过数据进行分析来提取见解，以更好地进行决策。

成为VIP会员查看完整内容

因果图谱 ·

7 月 10 日

【斯坦福CS520】因果图谱，11页pdf

https://web.stanford.edu/class/cs520/abstracts/haren.html

目前知识图谱的使用侧重于利用KG提供元数据知识来拼凑不同数据源的能力，从而理解这些数据源。

我们专注于提取表达数据之间因果关系的因果图，如“美元走强导致大宗商品价格下跌”。为了大规模进行，我们必须创建一个通用的数据模型，包括我们能识别的国家、公司、大宗商品的所有信号，信用和汇率，以及一个专门的NLP系统，以识别提及这些信号和事件，以及作者在文本中表达的因果关系。然后，这些数据必须被聚合成有意义的元素，并以突出显示所有最近新闻中最有趣的元素的方式显示出来

因果图还可用于许多目的，如警报范围计算、预测和模拟。特别是，可以将这些文本(超过1亿篇文本)构建的大型因果图转换为聚焦的贝叶斯网络，如http://ssrn.com/abstract=3808233所述。

成为VIP会员查看完整内容