JASONATLAS

搜索 Jason Atlas

搜索缩写、中英文名称、别名与关键词

ConceptAI › Machine Learning › Foundations › Overfitting

Overfitting

过拟合

一句话理解

过拟合是模型过度适应训练数据中的细节或噪声,导致对新数据的表现变差。

记住了练习题的细节,却没学好可复用的规律。

最好理解的例子

模型反复训练后几乎记住了训练照片,换一批同类照片却频繁出错。训练误差很低并不意味着掌握了可复用的分类规律。

核心机制

  1. 1

    模型在训练数据上拟合有效规律。

  2. 2

    继续优化时可能过度追随训练集特有细节或噪声。

  3. 3

    对照训练与验证表现,识别泛化差距。

  4. 4

    通过数据增强、正则化或早停等方法控制过拟合。

应用

增加有代表性的数据、采用合理的数据增强、限制模型复杂度、正则化和早停;方法效果应通过验证集检验。

关键关系

前置知识

强关联

常见误解

新数据表现差不一定都是过拟合,也可能来自欠拟合、标签问题或训练与使用环境的分布差异。

知识邻域

AI → Machine Learning → Foundations