机器学习（3）

1、零概率问题，分子加1分母加上相应的偏置（根据样本取值范围）。
2、朴素贝叶斯–生成学习算法，核心是贝叶斯公式
3、离散化，先分段，统计区域内点数
4、特征选择，使用特征计算不同特征和信号的相关度，相互信息、KL距离
5、正则化防止过拟合
6、k-means得到的是局部最优，所以多次随机初始化观察聚类结果
7、EM算法，对数似然性最大化，构建下界，使用不等式凸函数fE[x]<=Ef[x]，凹函数不等式符号相反，等于号的取值在于x为常数时。Estep和Mstep针对不同的参量进行最大化。
8、混合高斯模型（样本个数远大于类数，这样可以通过有限个高斯模型来建模），如果样本个数约等于等于类别数，可以考虑简单高斯模型进行建模
9、高斯分布的协方差矩阵经过对角化后图形主轴变得和坐标轴平行。
10、因子分析，从低维生成高维空间的数据，按照高斯分布在低维数据周围取值。当低维数据满足高斯分布，放到高维空间按照高斯分布取值时，类似两个高斯分布的叠加，然后用EM算法拟合模型参数。
11、ICA无法区分声源顺序，和信号的符号（是否取了相反数无法确定），当源信号有属于高斯分布的信号时，由于旋转对称不变性，ICA无法区分。
12、ICA通过假设sigmod或者拉普拉斯分布计算权值矩阵，然后利用该矩阵分离源信号，计算过程依旧用到求导梯度下降的思想。
13、强化学习，鼓励函数，如果做的对变给予奖励，没有训练集去告诉机器什么对什么错。强化学习是一个渐进的学习过程，Psa状态转换分布 S设置状态，A设置动作,R奖励函数
14、贝尔曼方程，强化学习，列出每个状态的汇总值，通过求解线性系统状态方程
15、MDP离散化、同化模型、值迭代、Q函数
16、机器学习算法，加强算法，pegasus，policy search算法