线性模型预测控制的工业部署需要一个凸二次规划(QP)的实时解。QP的显式解刻画了MPC控制律的特征,即状态的分段仿射函数和一些无偏移量控制的稳态目标的计算。众所周知,显式控制律的复杂性随着问题规模的增加呈指数级增长,使得离线描述和在线部署使用显式控制律对任何合理规模的工业工厂都是难以处理的。最近的观察表明,以修正线性单元(ReLU)为激活函数的深度神经网络也代表一个分段仿射函数,这使得它们成为获得精确逼近显式MPC控制律的有吸引力的候选对象。通过大型化工实例的数值实验,验证了该方法的可扩展性。

成为VIP会员查看完整内容
0
28

相关内容

深度神经网络(DNN)是深度学习的一种框架,它是一种具备至少一个隐层的神经网络。与浅层神经网络类似,深度神经网络也能够为复杂非线性系统提供建模,但多出的层次为模型提供了更高的抽象层次,因而提高了模型的能力。

题目:

Confidence-Aware Learning for Deep Neural Networks

简介:

尽管深度神经网络可以执行多种任务,但过分一致的预测问题限制了它们在许多安全关键型应用中的实际应用。已经提出了许多新的工作来减轻这个问题,但是大多数工作需要在训练和/或推理阶段增加计算成本,或者需要定制的体系结构来分别输出置信估计。在本文中,我们提出了一种使用新的损失函数训练深度神经网络的方法,称为正确排名损失,该方法将类别概率显式规范化,以便根据依据的有序等级更好地进行置信估计。所提出的方法易于实现,并且无需进行任何修改即可应用于现有体系结构。而且,它的训练计算成本几乎与传统的深度分类器相同,并且通过一次推断就可以输出可靠的预测。在分类基准数据集上的大量实验结果表明,所提出的方法有助于网络产生排列良好的置信度估计。我们还证明,它对于与置信估计,分布外检测和主动学习密切相关的任务十分有效。

成为VIP会员查看完整内容
0
42

这本书的目标是介绍自动微分的基本算法,以及流行的数学和统计函数的自动微分规则的百科全书式的集合。

自动微分是一种通用的技术,用于将函数的计算值转换为可计算导数的值。导数计算只给用于计算函数值的每个操作增加一个常数的开销,因此可微函数与原始函数具有相同的复杂度阶数。在描述了自动微分的标准形式之后,这本书提供了一个百科全书收集的正切和伴随规则的前向模式和后向模式自动微分,涵盖了最广泛使用的标量,向量,矩阵和概率函数。附录包含正向模式、反向模式和混合模式自动区分的工作示例代码。

成为VIP会员查看完整内容
0
55

人类的视觉系统证明,用极少的样本就可以学习新的类别;人类不需要一百万个样本就能学会区分野外的有毒蘑菇和可食用蘑菇。可以说,这种能力来自于看到了数百万个其他类别,并将学习到的表现形式转化为新的类别。本报告将正式介绍机器学习与热力学之间的联系,以描述迁移学习中学习表征的质量。我们将讨论诸如速率、畸变和分类损失等信息理论泛函如何位于一个凸的,所谓的平衡曲面上。我们规定了在约束条件下穿越该表面的动态过程,例如,一个调制速率和失真以保持分类损失不变的等分类过程。我们将演示这些过程如何完全控制从源数据集到目标数据集的传输,并保证最终模型的性能。

成为VIP会员查看完整内容
0
126

人工智能本质是解决生产力升级的问题,人类生产力可以归类为知识生产力和劳动生产力,人工智能走入产业后,可以分为感知智能、认知智能和行为智能,后两者更与生产力相对应,NLP和知识图谱是发展认知智能的基础。

原始数据通过知识抽取或数据整合的方式转换为三元组形式,然后三元组数据再经过实体对齐,加入数据模型,形成标准的知识表示,过程中如产生新的关系组合,通过知识推理形成新的知识形态,与原有知识共同经过质量评估,完成知识融合,最终形成完整形态上的知识图谱。

在面对数据多样、复杂,孤岛化,且单一数据价值不高的应用场景时,存在关系深度搜索、规范业务流程、规则和经验性预测等需求,使用知识图谱解决方案将带来最佳的应用价值。

2019年涵盖大数据分析预测、领域知识图谱及NLP应用的大数据智能市场规模约为106.6亿元,预计2023年将突破300亿元,年复合增长率为30.8%,其中2019年市场中以金融领域和公安领域应用份额占比最大。

随着整体市场数据基础的完善和需求唤醒,大数据智能领域规模持续走高,但在行业可落地性和理性建设的限制下,预计市场增速将呈现下降趋势,期间咨询性需求将会大量出现,从整体发展来看增速处于良性区间,对真正有价值的公司和产品有正向意义。

成为VIP会员查看完整内容
0
147

机器人和自主系统在现代经济中扮演着重要的角色。定制机器人显著提高了生产率、操作安全性和产品质量。然而,人们通常通过编程操作这些机器人来完成较小的领域的特定任务,而无法快速适应新任务和新情况。廉价、轻便和灵活的机器人硬件的出现为将机器人的自主能力提升到前所未有的水平提供了机会。新的机器人硬件在日常环境中的一个主要挑战是处理现实世界的持续变化性和不确定性。为了应对这一挑战,我们必须解决感知和行动之间的协同作用:一方面,机器人的感知自适应地指导其行动,另一方面,它的行动产生了新的感知信息,用于决策。我认为,实现通用机器人自治的关键一步是将感知和动作紧密地结合起来。

新兴的人工智能计算工具已经证明了成功的希望,并构成了在非结构化环境中增强机器人感知和控制的理想候选。机器人的实体本质迫使我们超越现有的从无实体数据集学习的范式,并激励我们开发考虑物理硬件和动态复杂系统的新算法。

本论文的研究工作是建立可通用的机器人感知和控制的方法和机制。我们的工作表明,感知和行动的紧密耦合,有助于机器人通过感官与非结构化的世界进行交互,灵活地执行各种任务,并适应地学习新任务。我们的研究结果表明,从低级的运动技能到高级的任务理解三个抽象层次上解剖感知-动作循环,可以有效地促进机器人行为的鲁棒性和泛化。我们规划的研究工作是处理日益复杂的任务,展现出我们朝着圣杯目标的路线图:在现实世界中构建长期的、通用的机器人自治。

成为VIP会员查看完整内容
yukezhu_phd_dissertation.pdf
closing_perception_action_loop.pdf
0
47
小贴士
相关论文
Hyper-Parameter Optimization: A Review of Algorithms and Applications
Tong Yu,Hong Zhu
12+阅读 · 2020年3月12日
1D Convolutional Neural Networks and Applications: A Survey
Serkan Kiranyaz,Onur Avci,Osama Abdeljaber,Turker Ince,Moncef Gabbouj,Daniel J. Inman
4+阅读 · 2019年5月9日
Antreas Antoniou,Harrison Edwards,Amos Storkey
19+阅读 · 2019年3月5日
Brandon Malone,Alberto García-Durán,Mathias Niepert
3+阅读 · 2018年10月22日
Jingkang Wang,Yang Liu,Bo Li
3+阅读 · 2018年10月5日
Eva Hasler,Adrià De Gispert,Gonzalo Iglesias,Bill Byrne
5+阅读 · 2018年5月9日
Peter J. Liu,Mohammad Saleh,Etienne Pot,Ben Goodrich,Ryan Sepassi,Lukasz Kaiser,Noam Shazeer
6+阅读 · 2018年1月30日
Heung-Yeung Shum,Xiaodong He,Di Li
9+阅读 · 2018年1月6日
Wenlin Wang,Zhe Gan,Wenqi Wang,Dinghan Shen,Jiaji Huang,Wei Ping,Sanjeev Satheesh,Lawrence Carin
5+阅读 · 2017年12月29日
Han Xiao,Lian Meng,Minlie Huang,Xiaoyan Zhu
6+阅读 · 2017年12月2日
Top