![](https://img-blog.csdnimg.cn/20201014180756916.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
统计学习方法
VictorLeeLk
我是世界的某个BUG
展开
-
统计学习方法概论(未完待续)
1.1统计学习统计学习:关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。包括监督学习、非监督学习、半监督学习及强化学习。主要特点: 以计算机及网络为平台 以数据为研究对象 目的是对数据进行预测和分析 以方法为中心 多学科交叉 1.2监督学习 任务 学习一个模型,使得模型对任意给定的输入,对其相应的输出做出一个好的预测。 基本概念 1、输入空间、输出空间与输出空间输入空原创 2017-04-14 18:45:53 · 397 阅读 · 0 评论 -
[python]感知机学习算法实现
模型 感知机模型是属于二分类的线性判别模型,旨在找到一个线性超平面,能将正负实例划分开来。 f(x)=sign(w∗x+b)f(x)=sign(w*x+b) 学习策略 学习策略即定义(经验)损失函数并将损失函数最小化 感知机的学习策略是基于误分类点到超平面的距离之和 经验损失函数如下: L(w,b)=−∑xi∈Myi(ω⋅xi+b)L(w,b)=-\sum_{x_i\in M}y_i(\ome原创 2017-04-19 20:10:12 · 2387 阅读 · 0 评论 -
正则化方法:L1和L2 regularization、数据集扩增、dropout
本文是《Neural networks and deep learning》概览 中第三章的一部分,讲机器学习/深度学习算法中常用的正则化方法。(本文会不断补充) 正则化方法:防止过拟合,提高泛化能力 在训练数据不够多时,或者overtraining时,常常会导致overfitting(过拟合)。其直观的表现如下图所示,随着训练过程的进行,模型复杂度增加,在training data上转载 2017-08-08 11:06:38 · 401 阅读 · 0 评论