How do you know whether you are overfitting or not?
提问
立正把过拟合说成深度学习的固有倾向:给任何一组随机数据,它都能找出规律;工程上的难点是挑出能泛化的规律,而不是找到规律本身1。
过拟合是“什么规律都能找到”
材料里的观点立正在谈智能与机器学习范式时,把深度学习描述为从 x 和 y 中寻找关系。他的判断是,这种范式在找规律上“都是一个 overfitting 的神”:即使输入的是随机数据,它也能在里面找出规律1。按这个说法,过拟合不是偶尔算错,而是模型总能拟合手头数据带来的默认风险。
判断标准落在泛化,而非训练数据上的表现
立正接着把工程工作说成:把“最好的一个规律”找出来,让它有一定的泛化能力,而且泛化得越准越好1。由此可以推出一条可操作的判断(这是 AI 的综合,不是他的原话):只看模型在已有数据上拟合得多好,无法区分学到了规律还是记住了噪声;要看它在没参与训练的新数据上是否仍然准确。泛化表现明显变差,就是过拟合的信号。
这段材料只给出过拟合的一般判断思路,没有讲具体的训练集/验证集划分、正则化或早停等检测与缓解方法;这些细节需要另找资料。
回到1份原文
立正直接说明深度学习“找规律”容易过拟合,并把工程目标落在泛化能力上。