项目名称: 可扩展迁移学习中跨媒体复杂问题自动映射研究

项目编号: No.U1204610

项目类型: 联合基金项目

立项/批准年度: 2013

项目学科: 计算机科学学科

项目作者: 朱真峰

作者单位: 郑州大学

项目金额: 31万元

中文摘要: 迁移学习打破了传统机器学习方法中训练集(相关任务)和测试集(目标任务)服从同分布的假设,能够处理分布发生变化的数据,有助于设计更加智能化的机器学习方法。本项目针对迁移学习中存在的关键问题:复杂任务间可扩展模型的建立,映射空间维数的确定,自动映射的实现等问题;以层次贝叶斯方法、深度学习方法和增量式方法建立不同任务间的抽象知识表示模型;采用信息熵、最小描述长度准则及近邻传播方法来确定特征维数;拟用多变量IB方法和矩阵论方法处理自动映射问题;项目拟采用不同的迁移学习模型,进行跨媒体模式识别和自动相互注解的研究,力图发现迁移学习所适应的问题特征及数学规律。该项目的研究,一方面有利于设计更加拟人化的机器学习算法,为人工智能的发展提供新的思路和途径,另一方面将迁移学习方法用于海量数据分析,跨媒体模式识别,从而为建立动态快速的决策系统提供坚实的基础。

中文关键词: 迁移学习;增量式学习;矩阵方法;大规模数据;高维数据

英文摘要: Traditional machine learning methods assume the training sets and test sets share the same distributions, however, in many applications, data distributions are dynamically changeable. In contrast, transfer learning considers that the related tasks and target tasks have different distributions. Then, methods of this kind can deal with dynamic data, which is useful to design better intelligent machine learning methods than traditional ones. In the research of transfer learning, there still exists some crucial problems: 1) how to construct the scalable models among complex tasks, 2) how to choose the number of dimensionality in feature spaces, and 3) how to achieve automatical mapping among complex tasks. To solve the problems described above, we employ and reconstruct the following methods: Hierarchical Bayesian, deep leaning and incremental learning methods are used to build the representation models of abstract knowledge between different tasks; Informtion Entropy, Minimum Description Length (MDL) and Affinity Propagation (AP) are used to decide the number of feature dimensions; Multivariate information bottleneck (MIB), and matrix theorem based methods are used to obtain automatic mapping. In practical applications, this project uses different transfer learning models to study the pattern recognition and autom

英文关键词: transfer learning;incremental learning;matrix based mathods;large scale data;high dimensional data

成为VIP会员查看完整内容
1

相关内容

迁移学习(Transfer Learning)是一种机器学习方法,是把一个领域(即源领域)的知识,迁移到另外一个领域(即目标领域),使得目标领域能够取得更好的学习效果。迁移学习(TL)是机器学习(ML)中的一个研究问题,着重于存储在解决一个问题时获得的知识并将其应用于另一个但相关的问题。例如,在学习识别汽车时获得的知识可以在尝试识别卡车时应用。尽管这两个领域之间的正式联系是有限的,但这一领域的研究与心理学文献关于学习转移的悠久历史有关。从实践的角度来看,为学习新任务而重用或转移先前学习的任务中的信息可能会显着提高强化学习代理的样本效率。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【博士论文】机器学习中的标记增强理论 与应用研究
专知会员服务
28+阅读 · 2021年12月3日
贝叶斯迁移学习: 迁移学习的概率图模型概述
专知会员服务
65+阅读 · 2021年10月17日
专知会员服务
62+阅读 · 2021年7月25日
专知会员服务
120+阅读 · 2021年6月19日
基于机器学习的数据库技术综述
专知会员服务
53+阅读 · 2021年1月2日
专知会员服务
44+阅读 · 2020年11月13日
专知会员服务
31+阅读 · 2020年9月2日
基于深度神经网络的少样本学习综述
专知会员服务
166+阅读 · 2020年4月22日
《迁移学习简明手册》,93页pdf
专知会员服务
131+阅读 · 2019年12月9日
【斯坦福&Google】面向机器人的机器学习,63页PPT
专知会员服务
23+阅读 · 2019年11月19日
领域自适应研究综述
专知
6+阅读 · 2021年5月5日
【边缘计算】边缘计算面临的问题
产业智能官
17+阅读 · 2019年5月31日
迁移自适应学习最新综述,附21页论文下载
综述 | 事件抽取及推理 (下)
开放知识图谱
38+阅读 · 2019年1月14日
【迁移学习】简述迁移学习在深度学习中的应用
产业智能官
15+阅读 · 2018年1月9日
迁移学习在深度学习中的应用
专知
23+阅读 · 2017年12月24日
行人再识别中的迁移学习
计算机视觉战队
11+阅读 · 2017年12月20日
国家自然科学基金
22+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
小贴士
相关VIP内容
【博士论文】机器学习中的标记增强理论 与应用研究
专知会员服务
28+阅读 · 2021年12月3日
贝叶斯迁移学习: 迁移学习的概率图模型概述
专知会员服务
65+阅读 · 2021年10月17日
专知会员服务
62+阅读 · 2021年7月25日
专知会员服务
120+阅读 · 2021年6月19日
基于机器学习的数据库技术综述
专知会员服务
53+阅读 · 2021年1月2日
专知会员服务
44+阅读 · 2020年11月13日
专知会员服务
31+阅读 · 2020年9月2日
基于深度神经网络的少样本学习综述
专知会员服务
166+阅读 · 2020年4月22日
《迁移学习简明手册》,93页pdf
专知会员服务
131+阅读 · 2019年12月9日
【斯坦福&Google】面向机器人的机器学习,63页PPT
专知会员服务
23+阅读 · 2019年11月19日
相关资讯
领域自适应研究综述
专知
6+阅读 · 2021年5月5日
【边缘计算】边缘计算面临的问题
产业智能官
17+阅读 · 2019年5月31日
迁移自适应学习最新综述,附21页论文下载
综述 | 事件抽取及推理 (下)
开放知识图谱
38+阅读 · 2019年1月14日
【迁移学习】简述迁移学习在深度学习中的应用
产业智能官
15+阅读 · 2018年1月9日
迁移学习在深度学习中的应用
专知
23+阅读 · 2017年12月24日
行人再识别中的迁移学习
计算机视觉战队
11+阅读 · 2017年12月20日
相关基金
国家自然科学基金
22+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员