中科大-凸优化笔记（lec47）-最速下降法

阅读量：320 次

发布时间：2019-03-04

本文共 520 字，大约阅读时间需要 1 分钟。

全部笔记的汇总贴（视频也有传送门）：

一、梯度下降法

$d^{k+1}=-\nabla f(x^k)\\\frac{f(x^{k+1})-P^*}{f(x^k)-P^*}\le1-\frac mM\le1-\min\{2m\gamma\alpha_{max},\frac{2m\gamma\beta}M\}\\ K\sim \log(f(x^k)-P^*)\;\;\;\;\;线性收敛$

2mγαmax,M2mγβ}K∼log(f(xk)−P∗)线性收敛

二、最速（陡）下降法

在这里插入图片描述

三、Gradient与Steepest Gradient的变种

1）坐标轮换法

在这里插入图片描述

2）若 $f (x)$ 在某些点不可微

在这里插入图片描述

例：

在这里插入图片描述

下一章传送门：

转载地址：http://aepq.baihongyu.com/

你可能感兴趣的文章

mysql面试题，存储引擎InnoDB和MyISAM

查看>>

mysql面试题：Mysql一致性视图是啥时候建立的

查看>>

mysql面试题：为什么MySQL单表不能超过2000W条数据？

查看>>

mysql面试题：创建索引时会不会锁表？

查看>>

mysql面试题：高度为3的B+树可以存放多少数据？

查看>>

mysql颠覆实战笔记(八)--mysql的自定义异常处理怎么破

查看>>

mysql驱动、durid、mybatis之间的关系

查看>>

mysql驱动支持中文_mysql 驱动包-Go语言中文社区

查看>>

MySQL高可用之——keepalived+互为主从

查看>>

MySQL高可用切换_（5.9）mysql高可用系列——正常主从切换测试

一、梯度下降法

二、最速（陡）下降法

三、Gradient与Steepest Gradient的变种

1）坐标轮换法

2）若 f ( x ) f(x) f(x)在某些点不可微

例：

2）若 $f (x)$ 在某些点不可微