什么是正则化?

正则化是机器学习中用于防止过度拟合的一种技术,过度拟合发生在模型过于复杂且与训练数据过于吻合时,导致对新的、看不见的数据的泛化能力较差。正则化向训练期间优化的目标函数引入惩罚项,鼓励模型不那么复杂并避免过度拟合。通常,使用两种类型的正则化:L1 正则化(也称为 Lasso 正则化)和 L2 正则化(也称为 Ridge 正则化),每种都有自己的惩罚项。L1 正则化鼓励模型具有稀疏系数,而 L2 正则化鼓励小系数值。这两种技术可以独立使用,也可以在同一模型中结合使用。

发布日期: