增广拉格朗日乘子法（Augmented Lagrange Method）
·
增广拉格朗日乘子法(Augmented Lagrange Method)
在了解增广拉格朗日乘子法之前，我们先了解一下基本拉格朗日乘子法
拉格朗日乘子法
基本的拉格朗日乘子法，常用于解决函数在约束条件下的极值问题，即：
min f(x)subject toh(x)=0i≤l min \ \quad f(x) \\ subject \ to \quad h(x)=0 \quad i \leq l min f(x)subject toh(x)=0i≤l
拉格朗日乘子法的主要思想是引入拉格朗日乘子λ\lambdaλ ，将约束条件与目标函数结合在一起，转化为一个无约束问题进行求解
min L(x,λ)=f(x)+∑ilλihi(x) min \ \quad L(x,\lambda )=f(x) + \sum_{i}^{l}\lambda_i h_i(x) min L(x,λ)=f(x)+i∑lλihi(x)
然后对x,λx, \lambdax,λ 求偏导为0的解。
增广拉格朗日乘子法
在拉格朗日乘子法的基础上，增加了惩罚项
min L(x,λ)=f(x)+∑ilλihi(x)+ρ2∣∣h(x)∣∣22 min \ \quad L(x,\lambda )=f(x) + \sum_{i}^{l}\lambda_i h_i(x) + \frac{\rho}{2}||h(x)||_2^2 min L(x,λ)=f(x)+i∑lλihi(x)+2ρ∣∣h(x)∣∣22
采用更新迭代的方式求出最优解
有“AI”的1024 = 2048，欢迎大家加入2048 AI社区
更多推荐
1
0- 0
已为社区贡献2条内容
所有评论(0)