拉格朗日乘子法与KKT条件
拉格朗日乘子法与KKT条件
考虑具有\(m\)个等式和\(n\)个不等式约束的优化问题。
设可行域\(\mathbb D\subset \mathbb R^d\), 优化函数\[\min_x\quad f(x)\]\[s.t.\quad\quad h_i(x)=0,\quad g_j(x)\le 0.\]
引入拉格朗日乘子\[\lambda = (\lambda_1,\cdots,\lambda_m)^T, \quad\mu= (\mu_1,\cdots,\mu_n)^T\]
优化的拉格朗日函数为\[L(x,\lambda,\mu)=f(x) +\sum_{i=1}^m\lambda_ih_i(x)+\sum_{j=1}^n \mu_jg_j(x)\]
其KKT条件为\[\begin{cases}\nabla f(x) + \sum\lambda_i\nabla h_i(x) + \sum\mu_j \nabla h_j(x)=0\\h_i(x)=0\\ g_j(x)\le 0;\\ \mu_j\ge 0;\\ \mu_jg_j(x) = 0.\end{cases}\]
    所属分类:数学分析     发表于2022-05-11