x. 拉格朗日对偶问题

来源：原始 Jupyter Notebook。内容已转换为网页阅读格式；下载原文件。

可微分的凸函数 $f: \mathbb{R}^d \to \mathbb{R}$ 和 $g: \mathbb{R}^d \to \mathbb{R}^p$ 的约束条件的最小化问题：

\mathop{\min}_{t} f(t), g(t) \leqslant 0

可以转换为拉格朗日对偶问题重新定义：

\mathop{\max}_{\lambda} \mathop{\inf}_{t} L(t, \lambda), \lambda \geqslant 0

其中， $\lambda$ 称为拉格朗日乘子：

\lambda = (\lambda_1, \dots, \lambda_p)^T

$L(t, \lambda)$ 称为拉格朗日函数：

L(t, \lambda) = f(t) + \lambda^Tg(t)

拉格朗日对偶问题的 t 的解，与原来的问题的解是一致的。