ConceptAI › Machine Learning › Foundations › Overfitting
Overfitting
过拟合
一句话理解
过拟合是模型过度适应训练数据中的细节或噪声,导致对新数据的表现变差。
记住了练习题的细节,却没学好可复用的规律。
最好理解的例子
模型反复训练后几乎记住了训练照片,换一批同类照片却频繁出错。训练误差很低并不意味着掌握了可复用的分类规律。
核心机制
- 1
模型在训练数据上拟合有效规律。
- 2
继续优化时可能过度追随训练集特有细节或噪声。
- 3
对照训练与验证表现,识别泛化差距。
- 4
通过数据增强、正则化或早停等方法控制过拟合。
应用
增加有代表性的数据、采用合理的数据增强、限制模型复杂度、正则化和早停;方法效果应通过验证集检验。
关键关系
前置知识
强关联
常见误解
新数据表现差不一定都是过拟合,也可能来自欠拟合、标签问题或训练与使用环境的分布差异。
知识邻域
AI → Machine Learning → Foundations