- 博客(10)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 【机器学习】k_means和KNN
k_means算法流程： （1）随机选择K个点作为每个类的初始质心； （2）在数据集中选择一个样本，计算其与每个类质心的距离，然后将该样本归到距离最短的那个中心所在的类。 重复此操作，直到所有样本全部归好类； （3）利用均值等方法更新各个类的质心； （4）重复（2）（3）步，直到某次的质心与上一次迭代的质心重合为止。python实现：python ...
2018-08-23 20:11:00
209
原创 【深度学习】Dropout原理及其python实现
1、dropout简述 dropout是解决神经网络模型过拟合的一种常用方法。 dropout是指在神经网络训练过程中，以一定的概率随机丢弃神经元（注意是暂时丢弃），以减少神经元之间的依赖性，从而提高模型的泛化能力。dropout类似ensemble方法（组合多个模型，以获得更好的效果，使集成的模型具有更强的泛化能力） 区别在于：dropout在训练过程中每个mini-b...
2018-08-23 14:58:07
9798
原创 【深度学习】梯度下降优化算法总结
梯度下降算法 优点 缺点 BGD（batch） 1、相对噪声低 2、凸函数可以收敛到全局小值 每更新一次参数都要遍历所有样本，计算量开销大，计算速度慢 对于非凸函数收敛到局部最小值 SGD 1、收...
2018-08-22 16:48:07
308
原创 【机器学习】正则化
正则化 正则化：通过降低模型复杂度防止过拟合，在损失函数中添加一个惩罚项来限制模型的权重。 模型不在只是以最小化损失为目标，这称为经验风险最小化： minimize(Loss(Data|Model))minimize(Loss(Data|Model))\text{minimize(Loss(Data|Model))} 而是以最小化损失和复杂度为目标，这称为结构风险最小化： minimiz...
2018-08-15 20:52:39
1165
原创 【机器学习】线性回归和逻辑回归
回归模型可用于预测连续值，分类模型可用于预测离散值。 线性回归是一种回归模型，通过将特征之间进行线性组合，从而得到连续的输出。可用特征组合处理非线性规律。 逻辑回归是分类模型，可用于二分类也可用于多分类问题。是从线性回归中衍生出来的分类策略，通过将S型函数用于线性预测而得到分类任务中每个标签的概率。逻辑回归是一种极其高效的概率计算机制。1、线性回归 线性回归用于预测连续值...
2018-08-15 17:26:53
734
原创 【深度学习】负梯度方向函数下降最快
▽f▽f \bigtriangledown f 指向函数增长速度最快的方向（梯度） −▽f−▽f- \bigtriangledown f 指向函数下降速度最快的方向（负梯度）导数 ⇒⇒ \Rightarrow 变化率 方向导数 ⇒⇒ \Rightarrow 在某个方向上的导数 ⇒⇒ \Rightarrow 变化率 (αfαlαfαl\frac{\alpha ...
2018-08-14 17:34:35
1815
原创 【机器学习】模型评估与选择--西瓜书第二章
2.1 经验误差与过拟合 2.2 评估方法 2.3 性能度量 2.5 偏差与方差2.1 经验误差与过拟合 错误率（error rate）：分类错误的样本占总样本的比率 精度（accuracy）：分类正确的样本占总样本的比率 误差（error）：学习器的实际预测输出与样本的真实输出之间的差距（指误差期望） 训练误差（training error）或经验...
2018-08-11 18:44:56
2498
原创 实习兼职总结
求职途径：1、应届生求职网：http://www.yingjiesheng.com/ 站内搜索：http://s.yingjiesheng.com/（附邮箱，靠谱速度快） 2、北邮人论坛：https://bbs.byr.cn/#!default 3、拉勾校园：https://xiaoyuan.lagou.com/（微信小程序：拉勾校园招聘） 4、实习僧：https://...
2018-08-10 20:37:41
413
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人