机器学习拾遗 偏差方差 f1 f2

如何理解偏差与方差呢

其实可以简单的这么理解,偏差是指预测的结果与真实结果的偏离程度,通俗的可以说是模型不准,效果差

方差指的是预测结果经常飘,经常出现有时候预测好有时候预测坏的情况,通俗的可以说是模型老飘,不稳定

L1正则化与 L2正则化与泛化能力。泛化能力其实很重要,因为你永远不能穷尽场景,而且有可能 POC 的时候客户拿一些你实现没有想到的数据去测试,这样就会要求模型具有比较好的泛化能力,这样即使是某些部分效果不是最好的情况下,依然可以有亮点继续同客户进行合作

提高泛化能力的关键一个就是不能过拟合。L1正则化是通过对模型进行了一次特征选择,只留下一些比较重要的特征,提高模型的泛化能力,降低过拟合的可能。

L2正则化是损失后边所加正则项为L2范数,加上L2正则相比于L1正则来说,得到的解比较平滑。

Sign in or Sign up Leave Comment