前言
最优化广泛应用于科学与工程计算、数据科学、机器学习、人工智能、图像和信号处理、金融和经济、管理科学等众多领域。
最优化问题可以归纳为如下定义:
最优化问题一般很难求解,除了一些特例。目前已经发展成熟的,能够有效求解的最优化问题可以归为以下三类:
- 最小二乘问题 least-squares problems
- 线性规划问题 linear programming problems
- 凸优化问题 convex optimization problems
最小二乘和线性规划属于凸优化问题的特例。一些问题只要能转换为凸优化问题,都能很好地求解。很多非凸问题也可以通过某种形式转化成凸优化问题来求解其近似解
凸优化问题
凸优化问题满足条件:
- 目标函数f0和约束函数fi都是凸函数
- 函数定义域是凸集
《Convex optimisation》 Boyd和Vandenberghe著
教材的网站:https://web.stanford.edu/~boyd/cvxbook/
教材书中的代码:本书第 2 部分中几乎所有示例和图形的源代码都可以在 CVX(在 示例目录中)、 CVXOPT(在本书示例目录中)和CVXPY中找到。第 9、10 和 11 章中示例的源代码可以在此处找到。
CVX: matlab
CVXOPT, CVXPY: python
资源下载:
-
Book
-
Lecture slides
其它资源:
另外的可参考的中文资源有:
1. 上交许志钦的《最优化方法》课程,教材也是Boyd的书:
https://space.bilibili.com/95975441/channel/seriesdetail?sid=1586096
2. 刘浩洋《最优化:建模、算法与理论/最优化计算方法》
http://faculty.bicmr.pku.edu.cn/~wenzw/optbook.html#pub
相应代码 http://faculty.bicmr.pku.edu.cn/~wenzw/optbook/pages/contents/contents.html