weixin_51658186的博客

由于sklearn中没现成的相关向量机库，可以借助sklearn-SVM库的API（继承它一些功能），再根据需要编写一些独属RVM的类，即可实现RVM模型。

广义来讲，优化算法可分单一目标优化和两大类。单一目标优化如梯度下降算法、线性回归算法等；多目标优化如蚁群算法、粒子群算法、遗传算法、模拟退火算法、布谷鸟算法等（群智能算法）。

此总结内容包括上次的神经网络与深度学习博客！深度学习是自动学习分类所需的低层次或高层次特征算法，例如机器视觉，深度学习算法从原始图像去学习得到它的低层次表达（例如边缘），之后在低层次表达的基础上，通过线性或非线性的组合在建立高层次的表达。深度学习能更好地表示数据特征。由于模型层次、参数很多，因此模型有能力处理大规模数据，对于图像、语音这种特征不明显的问题，能通过大规模数据训练取得很好效果。此外，深度学习框架将特征提取和分类整合在一个框架。

设有P个样本，我们不知道它们实际上应该分成多少类，为保险起见，可假设M=P（P个样本分成P类），这样，当N

把问题可能的解编码为一个向量,称为个体,向量的每一个元素称为基因,并利用目标函数(相应于自然选择标准)对群体(个体的集合)中的每一个个体进行评价,根据评价值(适应度)对个体进行选择、交换、变异等遗传操作,从而得到新的群体。学习过程与推理过程是紧密相连的，按照学习中使用推理的多少，机器学习的策略分为4种——机械学习、通过传授学习、类比学习、通过示例学习。系统学习的目标是寻找一个合适的动作选择策略,即在任一给定的状态下选择哪种动作的方法,使产生的动作序列可获得某种最优的结果(如累计立即回报最大)。