文章目录
Lipschitz Continuity Condition.
- Lipschitz连续条件的定义
- 神经网络中的Lipschitz约束
- 实现Lipschitz约束的方法:权重裁剪、梯度惩罚、谱归一化、梯度归一化
1. 利普希茨连续条件的定义
利普希茨连续条件(Lipschitz Continuity Condition) 是一个比一致连续 更强的函数光滑性条件。该条件限制了函数改变的速度,即符合Lipschitz 连续条件的函数的斜率必小于一个依函数而定的Lipschitz常数。
一般地&#
版权归原作者 禅与计算机程序设计艺术 所有, 如有侵权,请联系我们删除。