第一章 判别式神经网络 Discriminative Neural Networks

自2012年以来,深度神经网络已经彻底改变了机器学习。尽管这项技术相对较老,但近年来在文字、声音、图像和视频识别方面取得了令人瞩目的进步。考虑到这些方法的利害关系,在数学和算法之间的衔接问题就出现了。在本文中,我将解释这些网络的结构以及它们的监督学习的关键概念。

1.1 算法和数学学习 Algorithmics and mathematics of learning 1.2 判别式神经网络 Discriminative neural networks 1.3 神经网络监督学习 Supervised learning of a neural network 1.4 神经网络效率 The efficiency of neural networks

第二章 生成式神经网络 Generative Neural Networks

在前一篇文章中,我们了解了如何以监督的方式训练神经网络。这使得有效地解决分类问题成为可能,例如图像识别。也许更令人惊讶的是,这些神经网络也以一种无人监督的方式被用来自动生成“虚拟”文本或图像,这通常被称为“深度伪造”。在第二篇文章中,我将把生成神经网络的学习和最优运输理论联系起来。这个问题在18世纪由加斯帕德·蒙格提出,然后在20世纪中叶由列昂尼德·坎托罗维奇重新阐述。现在,它已经成为解决数据科学中重要问题的首选工具。

2.1 Generative neural networks 2.2 Unsupervised learning of generative networks 2.3 Monge’s optimal transport 2.4 The optimal transport of Kantorovitch 2.5 Adversarial networks

成为VIP会员查看完整内容
0
58

相关内容

人工神经网络(Artificial Neural Network,即ANN),它从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。每个节点代表一种特定的输出函数,称为激励函数(activation function)。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。网络的输出则依网络的连接方式,权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。

题目: A Survey of Neural Networks and Formal Languages

摘要:

这篇报告调查了各种最先进的神经网络结构和形式语言之间的关系,例如乔姆斯基语言层次结构。特别令人感兴趣的是神经结构通过学习特定语言的样本来表示、识别和生成单词的能力。

成为VIP会员查看完整内容
0
14

简介:

在这本书中,从机器学习基础开始,然后继续学习神经网络,深度学习,然后是卷积神经网络。在基础和应用的混合,在MATLAB深度学习这本书中使用MATLAB作为基础编程语言和工具进行案例研究。

有了这本书,你将能够解决当今现实世界中的一些大数据、智能机器人和其它复杂的数据问题。您将看到,对于现代智能数据分析和使用来说,深度学习是机器学习中多么复杂和智能的一个方面。

你将学习

  • 使用MATLAB进行深度学习
  • 发现神经网络和多层神经网络
  • 处理卷积和池化层
  • 使用这些层构建一个MNIST示例

作者:

Phil Kim博士是一位经验丰富的MATLAB程序员。他还研究来自人工智能的大型数据集的算法以及机器学习。他曾在韩国航空航天研究所担任高级研究员。在那里,他的主要任务是开发无人驾驶飞行器的自主飞行算法和机载软件。在攻读博士期间,他开发了一个名为“Clickey”的屏幕键盘程序。

成为VIP会员查看完整内容
0
53

主题: A Beginner’s Guide to the Mathematics of Neural Networks

摘要: 在这本书中,描述数学在帮助我们理解神经网络如何运作方面的作用,我试图用方程式来捕捉一般网络所产生的奇怪的新数学概念。我的目标读者是非专家,我将提供一个偏颇的选择,相对简单的例子,神经网络的任务,模型和计算,而不是试图给出一个完整的百科全书式的评论。

作者简介: A.C.C.Coolen,伦敦国王学院数学系教授。个人主页:https://toncoolen.wixsite.com/accc

成为VIP会员查看完整内容
0
50

由Marc Peter Deisenroth,A Aldo Faisal和Cheng Soon Ong撰写的《机器学习数学基础》“Mathematics for Machine Learning” 最新版417页pdf版本已经放出,作者表示撰写这本书旨在激励人们学习数学概念。这本书并不打算涵盖前沿的机器学习技术,因为已经有很多书这样做了。相反,作者的目标是通过该书提供阅读其他书籍所需的数学基础。这本书分为两部分:数学基础知识和使用数学基础知识进行机器学习算法示例。值得初学者收藏和学习!

目录

Part I: 数据基础

  • Introduction and Motivation
  • Linear Algebra
  • Analytic Geometry
  • Matrix Decompositions
  • Vector Calculus
  • Probability and Distribution
  • Continuous Optimization

Part II: 机器学习问题

  • When Models Meet Data
  • Linear Regression
  • Dimensionality Reduction with Principal Component Analysis
  • Density Estimation with Gaussian Mixture Models
  • Classification with Support Vector Machines
成为VIP会员查看完整内容
0
146
小贴士
相关资讯
【初学者指南】神经网络中的数学
专知
27+阅读 · 2019年12月16日
卷积神经网络数学原理解析
算法与数学之美
13+阅读 · 2019年8月23日
深入卷积神经网络背后的数学原理
人工智能学家
9+阅读 · 2019年4月26日
免费中文书籍-《神经网络与深度学习》中文版推荐
深度学习与NLP
17+阅读 · 2019年4月2日
深度学习线性代数简明教程
论智
8+阅读 · 2018年5月30日
干货 | 卷积神经网络入门这一篇就够了
数盟
6+阅读 · 2018年1月18日
入门 | 一文了解神经网络中的梯度爆炸
机器之心
6+阅读 · 2017年12月22日
新手|TensorFlow实现神经网络入门篇!
全球人工智能
9+阅读 · 2017年11月17日
机器学习必备手册
机器学习研究会
12+阅读 · 2017年10月24日
人工神经网络
平均机器
6+阅读 · 2017年7月17日
相关论文
Label Aware Graph Convolutional Network -- Not All Edges Deserve Your Attention
Hao Chen,Lu Wang,Senzhang Wang,Dijun Luo,Wenbing Huang,Zhoujun Li
5+阅读 · 2019年7月10日
Neural Image Captioning
Elaina Tan,Lakshay Sharma
4+阅读 · 2019年7月2日
Zilong Zhong,Jonathan Li,David A. Clausi,Alexander Wong
3+阅读 · 2019年5月12日
A Comprehensive Survey on Graph Neural Networks
Zonghan Wu,Shirui Pan,Fengwen Chen,Guodong Long,Chengqi Zhang,Philip S. Yu
10+阅读 · 2019年3月10日
Keyulu Xu,Weihua Hu,Jure Leskovec,Stefanie Jegelka
18+阅读 · 2018年10月1日
David Keetae Park,Seungjoo Yoo,Hyojin Bahng,Jaegul Choo,Noseong Park
3+阅读 · 2018年5月8日
Zhuwei Qin,Funxun Yu,Chenchen Liu,Xiang Chen
10+阅读 · 2018年4月30日
Othman Sbai,Mohamed Elhoseiny,Antoine Bordes,Yann LeCun,Camille Couprie
3+阅读 · 2018年4月3日
Brian Kenji Iwana,Seiichi Uchida
6+阅读 · 2018年1月25日
Ruoyu Li,Sheng Wang,Feiyun Zhu,Junzhou Huang
5+阅读 · 2018年1月10日
Top