人工智能教程 – 数学基础课程1.7 – 最优化方法4 7 最优化思路第二步核心约束条件KKT

最优化思路第二步核心 Determination of a search direction dkd_kdk​: Basis of the methods: Taylor series of f(x) in a small vicinity surrounding point xkx_kxk​: f(xk+δ)=f(xk)+▽Tf(xk).δ+12δT.▽T.▽2f(xk).δ+O(∣∣δ∣∣3)\LARGE f(x_k+\delta)=f(x_k)+\bigtriangledown ^Tf(x_k).\delta +\frac{1}{2}\delta ^T. \bigtriangledown