L1 Loss 和 L2 Loss 是深度学习中常用的损失函数，用于衡量模型预测值与真实值之间的差异。

1. L1 Loss（Mean Absolute Error, MAE）

L1 Loss 是预测值与真实值之间绝对差值的平均值。

公式：

其中：

• 是真实值

• 是预测值

•  是样本数量

特点：

• 对异常值不敏感，鲁棒性较强。

• 梯度恒定，优化时可能不如 L2 Loss 稳定。

2. L2 Loss（Mean Squared Error, MSE）

L2 Loss 是预测值与真实值之间平方差值的平均值。

公式：

其中：

•  是真实值

• 是预测值

• 是样本数量

特点：

• 对异常值敏感，因为误差被平方放大。

• 梯度随误差增大而增大，优化更稳定。

对比

选择依据

• L1 Loss 适用于数据中有较多异常值的情况。

• L2 Loss 适用于数据分布均匀且异常值较少的情况。