《凸优化》（6.25）

学习周期：6.12
预期时长：8周，每周（5+8=13h）
学习时长：
6.12 30m 23:00-23:30 -preface+chap2
6.13 2h40m 08:50-09:30 16:00-17:00 22:30-23:30 -chap2
6.14 2h30m 16:00-17:30 22:30-23:30 -chap3
6.15 2h30m 08:50-09:40 19:30-21:00 -chap4
6.16 4h 10:30-12:00 20:30-22:30 -chap4
6.17 3h 09:20-12:20 -chap5
6.18 2h30m 09:50-12:30 -chap5
6.19 0
6.20 1h30m 08:50-09:30 20:30-21:00 -chap9
6.21 40m 08:50-09:30 -chap9
6.22 0
6.23 2h 10:30-11:30 19:00-20:00 -chap10
6.24 4h10:00-12:00 15:00-17:00 -chap10 附录
6.25 2h40m 09:00-09:40 18:30-20:30 -附录

学习前的问题：
1. 什么是凸问题、有没有凹问题？
2. 为什么凸优化那么重要？
3. 凸优化和机器学习的关系？求解损失函数？
4. 凸优化的常用解法有哪些？

学习内容：
- 句话心得：
- chap2 概念有点多0 0
- chap5.2是精髓：通过把原问题转化为Lagrange对偶问题，可以总是在凸问题上寻求最优，而Lagrange最优值永远小于等于原问题的最优（d*是原问题p*的下确界）。所以当原问题很难求解时，把原问题转化为Lagrange对偶问题求解

Chap1 引言

• 一旦将一个实际问题表述为凸优化问题，大体上意味着相应问题已经得到彻底解决。
• 用凸优化模型对一般性非线性优化模型进行局部逼近，始终是研究非线性规划问题的主要途径。
• 最小二乘以及线性规划问题都属于凸优化问题。
• 线性规划和二次规划对于以应用为目的的学生极为重要。
• 非线性规划的最优问题求解可能是局部最优的。
• “事实上，优化问题的分水岭不是线性和非线性，而是凸性和非凸性。”

Chap2 凸集

• 线性组合（凸、仿射、锥）的概念可以扩展到无穷级数和积分中（x的期望）
• 向量不等式/分量不等式，表示其中每一个向量取值都小

chap2.5 分离与支撑超平面

• 仿射函数：线性函数+常数，即 f(x)=Ax+b。
  
  • 仿射函数的性质，凸集经过仿射函数映射后的象也是凸的。
• 超平面分离定理：用超平面或仿射函数将两个不想交的凸集分离开来。
  
  • 超平面分离定理的逆定理，即分离超平面的存在表面C和D不想交是不成立的。任何两个凸集C和D，如果其中至少一个是开集（点集无孤立点，同时无边界点，边界是开的，类似于开区间,是(a,b),不是[a,