定义 B.23 对偶函数

定义 B.23 对偶函数

与约束优化问题相关的 （拉格朗日）对偶函数 定义为 $\forall \alpha \ge 0$

$$\begin{array}{rl}& F\left(\alpha \right)\\ & =\underset{\mathbf{x}\in \mathcal{X}}{\inf }\mathcal{L}\left(\mathbf{x},\alpha \right)\\ & =\underset{\mathbf{x}\in \mathcal{X}}{\inf }\left(f\left(\mathbf{x}\right)+\sum _{i=1}^m{\alpha }_i{g}_i\left(\mathbf{x}\right)\right).\end{array}\text{\hspace{1em}(B.5)}$$

注意 $F$ 始终是凹的，因为拉格朗日函数关于 $\alpha$ 是线性的，并且下确界保持凹性。

我们进一步观察到

$$F\left(\alpha \right)\le p^{\ast },\forall \alpha \ge 0\text{\hspace{1em}(B.6)}$$

这是因为对于任意可行的 $\mathbf{x}$, $f\left(\mathbf{x}\right)+\sum _{i=1}^m{\alpha }_i{g}_i\left(\mathbf{x}\right)\le f\left(\mathbf{x}\right)$