迁移学习：给定一个有标记的源域和一个无标记的目标域。这两个领域的数据分布不同。迁移学习的目的就是要借助源域的知识，来学习目标域的知识(标签)。或是指基于源域数据和目标域数据、源任务和目标任务之间的相似性，利用在源领域中学习到的知识，去解决目标领域任务的一种机器学习方法。
Transfer learning的优势在于节省人工标注样本的时间，让模型可以通过已有的标记数据（source domain data）向未标记数据（target domain data）迁移。从而训练出适用于target domain的模型，适合于样本不足的情况。在样本不足的情况下，使用迁移学习，可以将这些通用特征学习从其他已经训练好的网络中迁移过来，从而节省训练时间，并且得到较好的识别结果。
一.基本概念
1.领域：进行学习的主题。由数据和生成这些数据的概率分布组成。
迁移就是从源领域向目标领域进行知识映射
2.任务：学习目标。由标签和标签对应的函数组成。
二.分类
迁移学习按学习方法分类，可以分为四个大类：基于样本的迁移学习方法、基于特征的迁移学习方法、基于模型的迁移学习方法、基于关系的迁移学习方法。
基于样本的迁移学习方法：基于实例的迁移学习方法适用于源域和目标域相似度较高的情况。主要思想是：通过改变样本的存在形式来减少源域和目标域的差异。
基于特征的迁移学习：基于特征的迁移学习算法可应用在域间相似度不太高的甚至不相似的情况。主要思想是：通过特征变换将源于和目标域在某个特征空间下表现出相似的性质。
基于参数的迁移学习：基于参数的迁移学习方法从模型的角度出发，共享源域模型与目标域模型之间的某些参数达到迁移学习的效果。
这个主要就是在神经网络里面用的特别多，因为神经网络的结构可以直接进行迁移。比如说神经网络最经典的finetune就是模型参数迁移的很好的体现。
Finetune，也叫微调、finetuning，是深度学习中的一个重要概念。简而言之，finetune就是利用别人已经训练好的网络，针对自己的任务再进行调整。
Finetune的优势：不需要针对新任务从头开始训练网络，节省了时间成本；预训练好的模型通常都是在大数据集上进行的，无形中扩充了我们的训练数据，使得模型更鲁棒、泛化能力更好；Finetune实现简单，使得我们只关注自己的任务即可。在实际应用中，通常几乎没有人会针对自己的新任务从头开始训练一个神经网络。Finetune是一个理想的选择。
基于关系的迁移学习：基于关系的迁移学习是通过将两个域之间的相关性知识建立一个映射来达到迁移学习的效果。
推荐资源：https://github.com/jindongwang/transferlearning
原文地址:https://blog.csdn.net/qq_15719613/article/details/134642523
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若转载，请注明出处：http://www.7code.cn/show_27708.html
如若内容造成侵权/违法违规/事实不符，请联系代码007邮箱：suwngjj01@126.com进行投诉反馈，一经查实，立即删除！
