1.27最优化（凸优化，非凸优化）、多目标优化（帕累托方法（暴力枚举，NSGA-II遗传算法（非支配排序（类似拓扑排序））），非帕累托方法（定义指标（熵权法等），指标权重和（转化为单目标最优化））

蚁群、遗传、退火算法是优化算法

BP方法、神经网络等可以得到模型最优参数

SVM,凸优化、KKT、对偶

最优化

凸优化 

非凸优化

对于无法梯度解决的

就使暴力遍历然后取最优

多目标优化

候选解称为

就是说边界线上的点为帕累托解

求解多优化一般解决方法

非帕累托

给定指标，然后加权和进行求解

帕累托方法 

NSGA-II

最终返回的20个集合就使帕累托集合

对于排序规则的设立就是NSGA的核心

NS代表非支配排序

类似于拓扑排序 

如果只有一个名额的话

就是说先确定两个边沿，然后通过公式计算边沿内的点在这个区间内部的拥挤值，最后进行排序

纠正，注意，这个两侧是计算相邻的两点，而不是固定的区间左右端点，相除的时候即标准化的时候才是固定的左右端点

然后有几个维度的指标就计算几次CD，最后再加起来，每个维度的指标都是独立的，都有各自的左右端点

所谓拥挤距离，就是这个点到旁边相邻两点的距离，衡量这个的大小