optimization：优化， convex optimization optimal：最佳的； 1. KKT 条件KKT 条件是一个非线性规划问题（nonlinear programming）存在一个最优解的一阶必要条件（first order ），也即首先应当满足的条件，否则就不存在最优解。2. Bi-convexBiconvex optimizationbi-，必然表示两者之间。一个二元函

1. 模拟退火

在优化问题的求解中，如果待优化（最大最小）的目标函数，其解集受限于一组约束条件， 约束条件定义着可行域（feasible region），对于可行域中的任一点 xx ，也即满足：时，就称该约束条件在该点 xx，是激活的（a

首先来看线性规划的标准问题