【导读】机器学习暑期学校(MLSS)系列开始于2002年,致力于传播统计机器学习和推理的现代方法。今年因新冠疫情在线举行,从6月28号到7月10号讲述了众多机器学习主题。本文推荐来自米兰大学Nicoló Cesa-Bianchi教授讲述《统计学习理论》,非常干货,包括:

  • 统计学习的简介
  • 从统计学习到序列决策
  • 专家意见和多武装强盗的预测
  • 在线凸优化
  • 上下文老虎机算法

成为VIP会员查看完整内容
0
78

相关内容

机器学习暑期学校(MLSS)系列开始于2002年,致力于传播统计机器学习和推理的现代方法。今年因新冠疫情在线举行,从6月28号到7月10号讲述了众多机器学习主题。本文推荐来自DeepMind Doina Precup博士讲述《深度强化学习》,165页ppt系统性讲述了深度强化学习基础知识和最新进展,非常干货。

地址: http://mlss.tuebingen.mpg.de/2020/schedule.html

作者介绍:

Doina Precup,McGill University计算机系副教授。

https://www.cs.mcgill.ca/~dprecup/

贝叶斯推断

视频地址:

https://www.youtube.com/watch?v=hoHXV4Ujavg&feature=youtu.be

成为VIP会员查看完整内容
0
41

机器学习暑期学校(MLSS)系列开始于2002年,致力于传播统计机器学习和推理的现代方法。今年因新冠疫情在线举行,从6月28号到7月10号讲述了众多机器学习主题。本文推荐来自DeepMind Shakir Mohamed博士讲述《贝叶斯推断》,125页ppt系统性讲述了贝叶斯推断基础知识和最新进展,非常干货。

地址: http://mlss.tuebingen.mpg.de/2020/schedule.html

作者介绍:

Shakir Mohamed,统计机器学习和人工智能的研究科学家。

https://shakirm.com/?section=1

贝叶斯推断

成为VIP会员查看完整内容
0
80

机器学习暑期学校(MLSS)系列开始于2002年,致力于传播统计机器学习和推理的现代方法。今年因新冠疫情在线举行,从6月28号到7月10号讲述了众多机器学习主题。本文推荐来自牛津大学Yee Whye Teh教授讲述《元学习》,165页ppt系统性讲述了元学习基础知识和最新进展,非常干货。

地址: http://mlss.tuebingen.mpg.de/2020/schedule.html

作者介绍

Yee Whye Teh是牛津大学统计学系的统计机器学习教授,也是DeepMind研究人工智能的科学家。他在多伦多大学(Geoffrey E. Hinton教授)获得博士学位,并在加州大学伯克利分校(Michael I. Jordan教授)和新加坡国立大学(Lee Kuan Yew博士后研究员)从事博士后工作。在进入牛津大学和DeepMind之前,他是一名讲师,后来在伦敦大学学院(UCL)盖茨比计算神经科学单元(Gatsby computing Neuroscience Unit)担任读者。他计划联合主席(Michael Titterington教授)人工智能国际会议和统计(AISTATS) 2010年,项目主持国际会议(Precup试图教授)在2017年机器学习(ICML),和am /贝叶斯分析的副主编,IEEE模式分析与机器智能,机器学习日报,统计科学,英国皇家统计学会期刊B辑和机器学习研究期刊。他曾多次担任NIPS、ICML和AISTATS的区域主席。他的研究兴趣横跨机器学习和计算统计学,包括概率方法、贝叶斯非参数学和深度学习。他开发了新颖的模型以及高效的推理和学习算法。

http://csml.stats.ox.ac.uk/people/teh/

成为VIP会员查看完整内容
0
80

机器学习暑期学校(MLSS)系列开始于2002年,致力于传播统计机器学习和推理的现代方法。今年因新冠疫情在线举行,从6月28号到7月10号讲述了众多机器学习主题。本文推荐来自米兰Sonia Petrone教授讲述《流数据贝叶斯预测》,177页ppt系统性讲述了贝叶斯预测,非常干货。

地址:

http://mlss.tuebingen.mpg.de/2020/schedule.html

成为VIP会员查看完整内容
0
32

机器学习暑期学校(MLSS)系列开始于2002年,致力于传播统计机器学习和推理的现代方法。今年因新冠疫情在线举行,从6月28号到7月10号讲述了众多机器学习主题。本文推荐来自法国INRIA Francis Bach研究员述《大规模机器学习优化》,177页ppt系统性讲述了大规模机器学习优化算法,非常干货。

Francis Bach 先生是INRIA(法国国家信息与自动化研究所)的研究员,自2011年起领导SIERRA项目团队(该团队是Ecole Normale Supérieure计算机科学系的一部分,也是CNRS、ENS和INRIA的联合团队)。自2016年起,成为Ecole Normale Supérieure的兼职教授。在伯克利大学完成了计算机科学博士学位,与迈克尔·乔丹教授合作,在巴黎矿业大学数学形态学组工作了两年,然后从2007年到2010年加入了INRIA/Ecole Normale Superieure/CNRS的WILLOW项目组。从2009年到2014年,负责ERC项目SIERRA。对统计机器学习很感兴趣,特别是在图形模型、稀疏方法、基于核的学习、凸优化视觉和信号处理方面。

https://www.di.ens.fr/~fbach/

Optimization for Large Scale Machine Learning

机器学习是数学、计算机科学和工程相结合的一个快速发展的领域,它为计算机提供了无需明确编程就能进行学习的能力,以便做出预测或采取理性行动。从癌症研究到金融、自然语言处理、市场营销或自动驾驶汽车,如今许多领域都受到了机器学习算法近期进展的影响。机器学习算法得益于收集大量数据并从中“学习”的能力。

本报告概述了监督机器学习、面向凸优化的快速随机梯度方法、更多超越凸优化的问题。

成为VIP会员查看完整内容
0
46

【导读】机器学习暑期学校(MLSS)系列开始于2002年,致力于传播统计机器学习和推理的现代方法。今年因新冠疫情在线举行,从6月28号到7月10号讲述了众多机器学习主题。本文推荐来自德国人工智能教授 Bernhard Schölkopf教授讲述《因果性》,177页ppt系统性讲述了机器学习中的因果性,非常干货。

由Judea Pearl开创的图因果推理起源于人工智能(AI)的研究,在很长一段时间内与机器学习领域几乎没有联系。本文认为,机器学习和人工智能的硬开放问题本质上与因果关系有关,并解释了该领域是如何开始理解它们的。

近年来,机器学习社区对因果关系的兴趣显著增加。我对因果关系的理解是由Judea Pearl和许多合作者和同事所启发的,其中的大部分内容来自与Dominik Janzing和Jonas Peters合著的一本书(Peters et al., 2017)。我已经在各种场合谈论过这个话题,其中一些正在进入机器学习的主流,特别是因果建模可以提升机器学习模型的鲁棒性。因果性和机器学习的交叉的发展令人兴奋。这篇报告不仅能够对讨论因果思维对AI的重要性有所帮助,而且还可以为机器学习的观众介绍一些图或结构因果模型的相关概念。

尽管最近取得了诸多成功,但如果我们将机器学习的能力与动物的能力进行比较,我们会发现,在一些动物擅长的关键技能上,前者相当糟糕。这包括迁移到新问题,任何形式的泛化,不是从一个数据点到下一个从相同的分布(采样),而是从一个问题到下一个——都被称为泛化。这个缺点并不是太令人吃惊,因为机器学习经常忽略生物大量使用的信息: 世界干预、领域迁移、时间结构。最后,机器学习也不擅长思考,在康拉德洛伦茨的意义上,即,在想象的空间中行动。我认为,因果性关注建模和推理,可以对理解和解决这些问题做出实质性的贡献,从而将该领域带入下一个层次。

视频: https://www.youtube.com/watch?v=btmJtThWmhA&feature=youtu.be

目录内容:

  • 背景介绍
  • 结构化因果模型
  • 独立机制与解缠分解
  • 做微积分
  • 混淆
  • 因果发现:两变量情况
  • 因果机器学习
  • 时间序列
成为VIP会员查看完整内容
0
58
小贴士
相关论文
Matthias Fey,Jan-Gin Yuen,Frank Weichert
4+阅读 · 6月22日
Bernhard Schölkopf
7+阅读 · 2019年11月24日
Yingtian Zou,Jiashi Feng
4+阅读 · 2019年4月19日
Jungbeom Lee,Eunji Kim,Sungmin Lee,Jangho Lee,Sungroh Yoon
4+阅读 · 2019年2月27日
SepNE: Bringing Separability to Network Embedding
Ziyao Li,Liang Zhang,Guojie Song
3+阅读 · 2019年2月26日
Ivana Balazevic,Carl Allen,Timothy M. Hospedales
6+阅读 · 2018年8月21日
Neural Arithmetic Logic Units
Andrew Trask,Felix Hill,Scott Reed,Jack Rae,Chris Dyer,Phil Blunsom
4+阅读 · 2018年8月1日
Zhenxin Wang,Sayan Sarcar,Jingxin Liu,Yilin Zheng,Xiangshi Ren
9+阅读 · 2018年4月20日
Alon Talmor,Jonathan Berant
5+阅读 · 2018年3月18日
Vincent Dumoulin,Francesco Visin
6+阅读 · 2018年1月11日
Top