2026-08-28·by Sijie Wang#idea#math

kkt-worked-example

KKT 完整算例:端到端求解

上级:math · 先修:lagrangian

一个有代表性的实例——只有一个不等式约束,因此互补松弛条件会迫使我们做一次真正的情形分讨。用 kkt 求解,用几何方式核验,核验影子价格,再确认与 对偶 结果一致。

问题。 最小化 f(x,y)=(x−2)²+(y−2)²,约束为 g(x,y)=x+y−2 ≤ 0。 几何上看:在半平面 x+y ≤ 2 中找到离 (2,2) 最近的点。

1. 拉格朗日函数与 KKT 条件

L(x,y,μ)=(x2)2+(y2)2+μ(x+y2),μ0.L(x,y,\mu)=(x-2)^2+(y-2)^2+\mu\,(x+y-2),\qquad \mu\ge 0.

KKT 条件:

  • 平稳性(stationarity) ∂L/∂x = 2(x−2)+μ = 0∂L/∂y = 2(y−2)+μ = 0
  • 原始可行性 x+y−2 ≤ 0
  • 对偶可行性 μ ≥ 0
  • 互补松弛性 μ(x+y−2) = 0

2. 求解——情形分讨

平稳性条件给出 x = y = 2 − μ/2。互补松弛条件把问题分成两种情形:

  • μ = 0(约束不起作用):此时 x=y=2,于是 x+y=4 > 2——违反可行性,舍弃。
  • μ > 0(约束起作用,x+y=2):代入 2(2−μ/2)=2 ⟹ 4−μ=2 ⟹ μ=2,从而 x=y=1。检验 μ=2 ≥ 0 ✓,x+y=2 ✓。
(x,y)=(1,1),μ=2,f=(12)2+(12)2=2.\boxed{\,(x^\ast,y^\ast)=(1,1),\quad \mu^\ast=2,\quad f^\ast=(1-2)^2+(1-2)^2=2.\,}

3. 几何核验

(2,2) 在直线 x+y=2 上的投影正是 (1,1);平方距离 = 2。✓ 而且 ∇f=(2(x−2),2(y−2))=(−2,−2)∇g=(1,1) 平行,满足 ∇f=−μ∇g=−2(1,1) ✓。

4. 影子价格(灵敏度分析)

把约束放松为 x+y ≤ b。当 b<4 时最优点是投影点 (b/2,b/2),因此

p(b)=2(b22)2,dpdb=2(b22).p^\ast(b)=2\Big(\tfrac{b}{2}-2\Big)^2,\qquad \frac{dp^\ast}{db}=2\Big(\tfrac{b}{2}-2\Big).

b=2 处:dp*/db = 2(1−2) = −2 = −μ*。所以μ*=2 正是该约束的边际价值——放松约束(提高 b)会以速率 μ 降低最优值。✓

5. 对偶——极小极大问题收拢

对偶函数 q(μ)=minx,yLq(\mu)=\min_{x,y} L。把平稳点 x=y=2−μ/2 代回:

q(μ)=2(μ2)2+μ(2(2μ2)2)=μ22+μ(2μ)=μ22+2μ.q(\mu)=2\Big(\tfrac{\mu}{2}\Big)^2+\mu\big(2(2-\tfrac{\mu}{2})-2\big)=\frac{\mu^2}{2}+\mu(2-\mu)=-\frac{\mu^2}{2}+2\mu.

μ≥0 求最大值:q'(μ)=−μ+2=0 ⟹ μ=2q(2)=−2+4=2强对偶性:对偶最优值 2 等于原始最优值 2 ✓(凸二次规划,Slater 条件成立),并且使其最大化的 μ=2 正是那个 KKT 乘子。原始问题、几何、灵敏度、对偶——整条故事线都收拢到同一个 μ*=2 上。

about this entry

One of sijie's wiki entries. The AI on this site is grounded in the same corpus and answers in sijie's voice, with citations back to entries like this one — answering costs sijie money, so it waits behind a code: enter an access code →

kkt-worked-example