【机器学习】Subgradient Method

Posted by ShawnD on August 23, 2022

考虑该问题

\[\min_x f(x)\]

$f$ 为凸函数, $\text{dom}(f) = \mathbb{R}^n$。

Subgradient mthod: 选择一个初始值 $x^{(0)} \in \mathbb{R}^n$, 重复:

\[x^{(k)} = x^{(k-1)} - t_k · g^{(k-1)}, \quad k = 1, 2, 3 ...\]

其中 $g^{(k-1)} \in \partial f(x^{(k-1)})$ 。