卷积自适应降噪自动编码器

2019 年 1 月 3 日 FCS

点击上方蓝字

关注我们

导读


       卷积神经网络是一种典型的深度学习架构,并广泛应用于图像识别和分类等领域。然而,随机初始化参数容易使算法陷入局部最优甚至发散,导致实际应用中效果并不理想。为了解决该问题,本文提出一种混合深度学习模型,卷积自适应降噪自动编码器(CNN-AdapDAE)。该模型将自适应降噪自动编码器(Adaptive Denoising Autoencoder, AdapDAE)学习的特征用于初始化卷积神经网络的滤波器,再对经过改进的卷积神经网络进行分类任务训练。在该模型中,AdapDAE算法作为卷积神经网络的预训练过程被提出,其基于退火原理自适应地获得噪声级别,噪声级别开始较高,随着训练的进行而逐渐降低。因此,采用AdapDAE算法学习到的特征包括不同粒度级别的特征的组合。在STL-10,CIFAR-10和MNIST数据集上的广泛实验结果表明,提出的算法优于采用随机初始化策略的卷积神经网络CNN(Random filters)、采用自动编码器预训练的卷积神经网络(CNN-AE)和其它一些特征学习方法。

请长按下方二维码识别,阅读该文。


相关内容推荐:

从上下文语境中学习: 基于相互增强模型的中文微博观点检索  2018 12(4):714-724

决策树集成学习中的结构多样性 2018 12(3):560-570

基于LDA模型的协同过滤  2018 12(3):571-581

结合序列二次规划的回溯搜索算 2018 12(2):316-330

一种解决类不平衡问题的进化欠采样bagging集成分类算法 2018 12(2):331-350

FCS 12(2) 人工智能专栏 | 关于差异进化算法中变异个体的选择

FCS 12(1) 文章 | 多峰问题全局优化的分布式学习粒子群优化算法

FCS 12(1) 文章 | 多层次的中文垃圾短信高效识别方法




Frontiers of Computer Science



Frontiers of Computer Science (FCS)是由教育部主管、高等教育出版社和北京航空航天大学共同主办、SpringerNature 公司海外发行的英文学术期刊。本刊于 2007 年创刊,双月刊,全球发行。主要刊登计算机科学领域具有创新性的综述论文、研究论文等。本刊主编为周志华教授,共同主编为熊璋教授。编委会及青年 AE 团队由国内外知名学者及优秀青年学者组成。本刊被 SCI、Ei、DBLP、INSPEC、SCOPUS 和中国科学引文数据库(CSCD)核心库等收录,为 CCF 推荐期刊;两次入选“中国科技期刊国际影响力提升计划”;入选“第4届中国国际化精品科技期刊”。




长按二维码关注Frontiers of Computer Science公众号

登录查看更多
8

相关内容

在数学(特别是功能分析)中,卷积是对两个函数(f和g)的数学运算,产生三个函数,表示第一个函数的形状如何被另一个函数修改。 卷积一词既指结果函数,又指计算结果的过程。 它定义为两个函数的乘积在一个函数反转和移位后的积分。 并针对所有shift值评估积分,从而生成卷积函数。
【KDD2020】自适应多通道图卷积神经网络
专知会员服务
119+阅读 · 2020年7月9日
【CVPR2020】用多样性最大化克服单样本NAS中的多模型遗忘
基于深度学习的多标签生成研究进展
专知会员服务
140+阅读 · 2020年4月25日
 图像内容自动描述技术综述
专知会员服务
84+阅读 · 2019年11月17日
深度学习算法与架构回顾
专知会员服务
77+阅读 · 2019年10月20日
强化学习最新教程,17页pdf
专知会员服务
168+阅读 · 2019年10月11日
跨多个异构数据源的实体对齐
FCS
15+阅读 · 2019年3月13日
基于统计关系学习的自动数据清洗
FCS
7+阅读 · 2019年3月1日
基于差分隐私的地理社交网络发布
FCS
9+阅读 · 2019年2月22日
【学界】基于条件深度卷积生成对抗网络的图像识别方法
GAN生成式对抗网络
15+阅读 · 2018年7月26日
基于样本选择的安全图半监督学习方法
FCS 12(1) 文章 | 知识图谱综述
FCS
7+阅读 · 2018年3月12日
教程 | 深度学习:自动编码器基础和类型
机器之心
5+阅读 · 2017年9月23日
Image Captioning based on Deep Reinforcement Learning
Multi-task Deep Reinforcement Learning with PopArt
Arxiv
4+阅读 · 2018年9月12日
A Multi-Objective Deep Reinforcement Learning Framework
Arxiv
8+阅读 · 2018年1月25日
VIP会员
相关VIP内容
【KDD2020】自适应多通道图卷积神经网络
专知会员服务
119+阅读 · 2020年7月9日
【CVPR2020】用多样性最大化克服单样本NAS中的多模型遗忘
基于深度学习的多标签生成研究进展
专知会员服务
140+阅读 · 2020年4月25日
 图像内容自动描述技术综述
专知会员服务
84+阅读 · 2019年11月17日
深度学习算法与架构回顾
专知会员服务
77+阅读 · 2019年10月20日
强化学习最新教程,17页pdf
专知会员服务
168+阅读 · 2019年10月11日
相关资讯
跨多个异构数据源的实体对齐
FCS
15+阅读 · 2019年3月13日
基于统计关系学习的自动数据清洗
FCS
7+阅读 · 2019年3月1日
基于差分隐私的地理社交网络发布
FCS
9+阅读 · 2019年2月22日
【学界】基于条件深度卷积生成对抗网络的图像识别方法
GAN生成式对抗网络
15+阅读 · 2018年7月26日
基于样本选择的安全图半监督学习方法
FCS 12(1) 文章 | 知识图谱综述
FCS
7+阅读 · 2018年3月12日
教程 | 深度学习:自动编码器基础和类型
机器之心
5+阅读 · 2017年9月23日
Top
微信扫码咨询专知VIP会员