木木的笔记

持坚,包容,镇静,专注。

简单神经网络的“来龙去脉”

文章目录简单神经网络的“来龙去脉”正向传播反向传播梯度下降算法为何混入其中 简单神经网络的“来龙去脉” 众所周知,神经网络1有两次传播:正向输出结果,反向修正权重。 我们可以摆脱数学的约束,来看看正向传播和反向传播中的某些关键。 正向传播 神经网络如何处理输入的原始数据并得到较为准确的结果?个...

2018-11-25 23:02:33

阅读数 37

评论数 0

ML笔记——主成分分析(PCA)

目录 想法 数学表达 胡思乱想时刻 想法 有时对于高维问题往往转化为低维问题更简单明了,如解二元一次方程组,将一个变量用另一个变量表示,转化为一元一次方程求解。 PCA也是将部分变量用其他变量替换,从而得到更简单的数据 数学表达 这篇文章(作者:刘建平Pina...

2018-06-06 14:00:36

阅读数 87

评论数 0

ML笔记——K - means算法

目录 想法 数学表达 胡思乱想时刻 想法 将未处理的数据投影到空间中,可以通过聚集程度将数据划分为几个族。如果认为的引入几个点,作为簇的代表,并以数据点到这几个点的聚集程度为依据将数据划分到对应的标记点代表的族中。 此处的聚集程度可以考虑使用欧氏距离 数学表达 ...

2018-06-04 15:48:55

阅读数 93

评论数 0

ML笔记——支持向量机(SVM)

目录 想法 数学表达 胡思乱想时刻 想法 对于任意一个数据映射到多维空间,如果是不同的数据集之间必定存在间距,此时能用一个超平面就可以将其分开且间距最大 数学表达 处理线性问题 建设函数: hθ(x)={10ΘTX≥0ΘTX<0hθ(...

2018-05-30 17:36:36

阅读数 70

评论数 0

ML笔记——反向传播算法

目录 想法 数学表达 想法 如果将整个神经网络看作是一个复杂的函数 Fθ(x)Fθ(x)F_\theta(x) ,那么与线性回归和逻辑回归相似,选取一些恰当的 θθ\theta 值就可以得到假设函数。 反向传播算法就是用来确定哪些恰当的 θθ\theta 值 数学表...

2018-05-25 14:02:48

阅读数 58

评论数 0

ML笔记——神经网络

目录 数学表示 实现原理 数学表示 实现原理

2018-05-21 15:02:45

阅读数 116

评论数 0

ML笔记——正则化

目录 想法 数学表示 胡思乱想时刻 想法 由于训练模型选择的过于复杂,或是训练数据集包含无用的数据,导致假设函数对于训练数据集拟合效果极好,然而对于测试数据集或预测的数据出现较大偏差。 对于上述问题,如果将训练模型简化,或者将无用数据剔除,就能改善这个问题。 正...

2018-05-16 15:49:44

阅读数 55

评论数 0

ML笔记——逻辑回归

目录 想法 数学表示 胡思乱想时刻 想法 数学表示 胡思乱想时刻

2018-05-14 16:42:13

阅读数 52

评论数 0

ML笔记——正规方程

目录 想法 数学表示 胡思乱想时刻 想法 对于一个连续的函数,比如:y=ax2+bx+cy=ax2+bx+cy=ax^2+bx+c的极值点可以通过求导来确定。 对于y′=2ax+by′=2ax+by' = 2ax + b,当y′=0y′=0y' = 0时,有x=−...

2018-05-09 13:48:32

阅读数 199

评论数 0

ML笔记——梯度下降

目录 数学表达 胡思乱想时刻 数学表达 求解代价函数J(θ0,θ1)J(θ0,θ1)J(\theta_0,\theta_1)中的θ0,θ1θ0,θ1\theta_0,\theta_1使得J(θ0,θ1)J(θ0,θ1)J(\theta_0,\theta_1)最小。 ...

2018-04-28 14:30:23

阅读数 44

评论数 0

ML笔记——假设函数、代价函数

目录 想法 数学表示 胡思乱想时刻 想法 对于如下的数据 选择合适的θ0,θ1θ0,θ1\theta_0, \theta_1使得假设的线性函数hθ(x)hθ(x)h_\theta(x)接近与训练数据(x,y)(x,y)(x, y)的yyy值 数学表示...

2018-04-27 15:01:27

阅读数 234

评论数 0

线性代数——线性组合、线性空间、基底

目录 线性组合 线性空间 基底 线性组合 线性组合就是关于向量的加法和向量的数乘的组合运算,即: au⃗+bv⃗au→+bv→a\vec u + b \vec v 线性空间 线性空间就是,若干个向量通过线性组合所得到的一个集合。 以下用两个向量的线性组...

2018-04-23 14:34:26

阅读数 1013

评论数 0

线性代数——向量、向量加法、向量数乘

目录 向量 向量加法 向量数乘 向量 物理 在物理中,向量是直线加箭头。 其中的直线代表长度,箭头代表方向。 只要长度和方向相同,那么空间中任意的两个向量也相同。 计算机 在计算机学科中,向量代表一个有序的数表。 如: ...

2018-04-15 18:43:52

阅读数 7636

评论数 0

用词云做我的头像

虽然还不对Python有很深的理解,就献丑啦。将最近生成词云的坎坷经历记录一下。 Python的安装这些就不多说了。 这里有几个参照的经验帖: 第一个A,第二个B。 先介绍一下本机环境为Win7下安装的是Python3.5版本。 第一个悲剧——如何安装Wordcloud 两个经验中都提...

2017-05-31 23:46:54

阅读数 837

评论数 0

几百年前的东西

最近一个月左右整理的东西,基本上都是关于图论的。 最短距离 最小生成树 连通性 网络流 以及还有下面关于最短路的题目。 一些题目是来自与Vjudge上的,以下也给出了题目的链接。 /* *http://poj.org/problem?id=2387 *Memory 4692 ...

2017-04-23 11:41:41

阅读数 135

评论数 0

网络流

真的是浅浅的了解了一下网络流。 其中增广路径和残余网络,需要理解清楚,这对于算法的理解是有帮助的。 可以看看别人上传的资料 /* *http://poj.org/problem?id=3281 */

2017-04-19 16:10:34

阅读数 136

评论数 0

两题连通性

很早以前做的两道题,直接套了两个模板。 关于模板,简单整理了一下。UVa796 In a computer network a link L, which interconnects two servers, is considered critical if there are at ...

2017-04-19 12:11:28

阅读数 149

评论数 0

图的连通

关于判断图是否连通,一般需要先了解: 1. DFS和BFS这两个搜索算法,或者说是遍历方式(实际上树的前中后序遍历和层次遍历分别就是DFS和BFS的运用)。 2. 对于图的建立此处就不在介绍了 (这里不对UnionFind在连通性的判断上做介绍。)连通图的概念这个链接里面,都有讲到,这个。 ...

2017-04-19 11:20:38

阅读数 291

评论数 0

次小生成树

和最小生成树一块整理了吧,就简单的几个模板题。 上一篇文末已推荐两个次小生成树链接,此处不再引用。UVa 10600(由于UVa访问较慢,这里给出Vjudge的链接) In order to prepare the \The First National ACM School Contest...

2017-04-17 11:50:01

阅读数 200

评论数 0

最小生成树

以下介绍最小生成树的几个算法,Kruskal算法、Prim算法。 虽然网上有很多对于最小生成树的优质讲解,但是自己还是想写一下自己的理解与体会。 此处借用一下已有的经验(图解深深的吸引了我)。Kruskal先来讲一下kruskal算法,该算法的想法很简单,始终从未选取的边中选取最短的边并添加进...

2017-04-17 10:45:12

阅读数 198

评论数 0

提示
确定要删除当前文章?
取消 删除
关闭
关闭