点击上方蓝字关注
迁移学习
迁移学习(Transfer Learning)是一种机器学习方法,是把一个领域(即源领域)的知识,迁移到另外一个领域(即目标领域),使得目标领域能够取得更好的学习效果。
通常,源领域数据量充足,而目标领域数据量较小,这种场景就很适合做迁移学习,例如我们我们要对一个任务进行分类,但是此任务中数据不充足(目标域),然而却又大量的相关的训练数据(源域),但是此训练数据与所需进行的分类任务中的测试数据特征分布不同(例如语音情感识别中,一种语言的语音数据充足,然而所需进行分类任务的情感数据却极度缺乏),在这种情况下如果可以采用合适的迁移学习方法则可以大大提高样本不充足任务的分类识别结果。
为什么现在需要迁移学习?
在 2016年 NIPS 讲座上,吴恩达表示:“在监督学习之后,迁移学习将引领下一波机器学习技术商业化浪潮。”
前百度首席科学家、斯坦福的教授吴恩达(Andrew Ng)在曾经说过:「迁移学习将会是继监督学习之后的下一个机器学习商业成功的驱动力」。
有一点是毋庸置疑的:迄今为止,机器学习在业界的应用和成功,主要由监督学习推动:
最新的残差网络(residual networks)已经能在 ImageNet 上取得超人类的水平;谷歌 Smart Reply 能自动处理 10% 的手机回复;
语音识别错误率一直在降低,精确率已超过打字员;
机器对皮肤癌的识别率以达到皮肤科医生的水平;
谷歌 NMT 系统已经应用于谷歌翻译的产品端;
百度 DeepVoice 已实现实时语音生成……
这个水平的成熟度,已经让面向数百万用户的大规模模型部署变得可能。
监督学习是目前成熟度最高的,可以说已经成功商用,而下一个商用的技术 将会是 迁移学习(Transfer Learning),这也是 Andrew 预测未来五年最有可能走向商用的 AI技术。
迁移学习的智慧体现在什么方面呢?
首先,机器的一个能力是在大数据里学习,所以数据的质量是非常重要的。因此今年AlphaGo的训练数据与去年和李世石下棋时候的数据就做了改变,去年还用了很多人类大事们下棋的数据,但近年更多地用了AlphaGo自我对弈的数据,使得数据质量大幅提高,也就让机器学习的效果大为提高。
但是,你能不能把在19x19的棋盘学到的知识再推广到21x21的棋盘里呢?你在学会下围棋之后,你能不能去下象棋,能不能把它运用在生活的方方面面,如商业活动、人际交往、指挥机器人的行动中呢?很显然,目前的机器是没有这个能力的,而迁移学习正式针对于此产生的。
今天的深度学习算法仍然欠缺的,是在新情况(不同于训练集的情况)上的泛化能力。而把别处学得的知识,迁移到新场景的能力,就是迁移学习。
在人类进化中,迁移学习这种能力是非常重要的。
比如说,人类在学会骑自行车后,再骑摩托车就很容易了,人类在学会打羽毛球后再学习打网球也会容易很多。我们看一两张照片就可以把它拓展到许多其他不同的景象;我们有了知识,把这个知识再推广到其他知识中,简言之,就是我们能把过去的经验带到不同的新的场景中去,这样就有了一种适应的能力。
总之,迁移学习将会成为接下来令人兴奋的研究方向,特别是许多应用需要能够将知识迁移到新的任务和域中的模型,将会成为人工智能的又一个重要助推力。
可见,迁移学习是多么的重要,那么,机会来喽,小七和大家分享一个好消息喔~
我们的【迁移学习课程】,原价200元,现在限时限额0元免费学,还附赠深度学习干货资料,想要的小伙伴们抓紧时间喽,报名的小伙伴不断喔,这是我们极少极少的课程可以免费学哦,有意的抓紧时间啦,扫码立即报名参加~~😀
更多资讯
请戳一戳
往期精选
干货合集 | 教你如何使用Excel 9步实现卷积网络
实战项目 | kaggle实战之房价预测,你了解多少?
行业分析| 震惊!人才缺口百万!这究竟是什么行业?
分享一哈 | 教你如何通俗理解kaggle比赛大杀器xgboost
点击“阅读原文”,查看更多课程