Model Adaptation
复用已有知识,通过迁移与微调适配具体任务
2 concepts · 0 branches
Model Adaptation
复用已有知识,通过迁移与微调适配具体任务
2 concepts · 1 sections
对比组
Model Adaptation|迁移与微调
迁移学习是复用知识的整体思路,微调是常用实现方法之一。
Transfer Learning
迁移学习把一个任务或领域中学到的知识,用于帮助另一个任务或领域。
概念层次:把已有知识用于新任务或领域
参数是否更新:不一定,可以冻结原模型
Fine-Tuning
微调在已有模型的基础上,用目标数据继续训练,使模型适应具体需求。
概念层次:在已有模型上继续训练
参数是否更新:更新选定参数
| 知识 | 概念层次 | 参数是否更新 |
|---|---|---|
| Transfer Learning迁移学习 | 把已有知识用于新任务或领域 | 不一定,可以冻结原模型 |
| Fine-Tuning微调 | 在已有模型上继续训练 | 更新选定参数 |