Practical Methods for Optimization

1 基本概念和预备知识
1.1 最优化方法的基本内容
1.2 最优化问题的数学模型与模型的分类
1.3 基本概念
1.4 多元函数的梯度、Hesse阵和taylor展开式
习题1
2 线性规划：单纯形法
2.1 线性规划的标准形式
2.2 可行解、基本解和最优解
2.3 单纯形法的基本定理
2.4 单纯形法的原理
2.4.1 从一个基本解变换到另一个基本解
2.4.2 基本可行解的转换
2.4.3 最优可行解的确定
2.4.4 单纯形法计算步骤
2.4.5 单纯形法
2.5 寻找初始基本可行解的方法
2.5.1 大M法
2.5.2 二阶段法
2.6 修正单纯形法
2.7 对偶问题和对偶单纯形法
2.7.1 线性规划对偶问题的定义
2.7.2 原问题与对偶问题的关系
2.7.3 对偶单纯形法
2.8 灵敏度分析
2.9 单纯形法中的几个问题
2.9.1 退化与循环
2.9.2 避免退化与循环的方法
2.10 线性规划中的几种特殊问题
2.10.1 有界变量问题
2.10.2 区间线性规划问题
习题2
3 非线性规划：基本理论
3.1 非线性规划数学模型的标准形式
3.2 凸集、凸函数和凸规划
3.2.1 凸集
3.2.2 凸函数
3.2.3 凸规划
3.3 最优性条件
3.3.1 无约束问题的最优性条件
3.3.2 等式约束问题的最优性条件
3.3.3 一般非线性规划问题的最优性条件
3.4 对偶性理论
习题3
4 一维搜索法
4.1 Fibonacci法
4.2 黄金分割法
4.3 进退法
4.4 平分法
4.5 抛物线法
4.6 不精确的一维搜索
4.6.1 Goldstein法
4.6.2 Armijo法
4.6.3 Wolfe-Powell法
习题4
5 无约束最优化方法
5.1 最速下降法
5.2 Newton法
5.3 共轭方向法和共轭梯度法
5.3.1 共轭方向及其性质
5.3.2 共轭方向法
5.3.3 共轭梯度法
5.4 拟Newton法
5.4.1 拟Newton法的基本思路
5.4.2 DFP变尺度算法
5.4.3 BFGS算法
5.5 Powell方向加速法
5.6 Nelder-Mead单纯形法
习题5
6 带约束最优化方法
6.1 线性约束的Frank-Wolfe法
6.2 Zoutendijk可行方向法
6.3 Rosen投影梯度法
6.3.1 投影矩阵及其性质
6.3.2 投影梯度法
6.4 简约梯度法
6.5 广义简约梯度法
6.6 带约束单纯形调优法
6.7 罚函数法与现代乘子法
6.7.1 外罚函数法
6.7.2 内罚函数法
6.7.3 现代乘子法
习题6
附录 Matlab优化工具箱使用入门
1.1 安装
1.2 环境和语言
1.2.1 环境窗口
1.2.2 语言结构
1.2.3 编程语言
1.3 编程示例
1.3.1 无约束极值问题的例子
1.3.2 有约束极值问题的例子
1.3.3 带有下界和上界约束条件的极值问题
1.4 优化工具箱的演示
1.5 常用的库存函数
参考文献