- 博客(10)
- 收藏
- 关注
RSS订阅转载 神经网络相关激活函数
激活函数神经网络的每个神经元输出都要经过激活函数的处理，并且激活函数都要选择非线性的函数(不是一条直线)原因也比较简单如果用线性函数来处理的话(类似f(x)=ax+b),经过多个神经元后，这些处理可以统一合为一个线性处理，也就失去了神经网络的多层的意义了。都要用激活函数的原因也类似，毕竟神经元内部大多也都是线性处理这里列举两个非常常用的激活函数1.sigmoid函数si...
2019-04-20 22:18:00
296
转载 Python实现——二层BP神经网络
2019/4/23更新下文中的正确率极高是建立在仅有50组训练数据的基础上的，十分不可靠。建议使用提供的另一个生成训练集的generate_all函数，能产生所有可能结果，更加可靠。2019/4/20二层BP神经网络但是仍有部分在公式上的不明了，但是其运作方式还是很简单的，先简单解析我的代码from createData import generate_data是本次所解题目...
2019-04-20 16:37:00
517
转载 Python实现——决策树(部分函数/连续数据)
由于上一例的实现中只针对了离散数据，为了扩充处理范围，我实现了一下对线性数据的简单处理，在其中我选择用中位数作为指标，平均数、众数等等其他数据在我看来异曲同工，最终也都会有较相似的结构。求连续数据的香农熵def calcLinerData(dataSet): num=len(dataSet) count={1:0,0:0} shannonEnt=0.0...
2019-04-11 18:21:00
511
转载 决策树相关基础知识
核心思想：样本集D,属性集AsetTree(D,A): 生成结点node if(样本最终分类相同) node标记为该分类的叶结点 return if(样本在A的某一个属性上取值相同 || 属性集合A已经是空集) node标记为叶结点并标记为数目最多的属性取值 #选取最佳划分属性 for featu...
2019-04-08 21:48:00
187
转载 Python实现——决策树实例(离散数据/香农熵)
决策树的实现太...繁琐了。如果只是接受他的原理的话还好说，但是要想用代码去实现比较糟心，目前运用了《机器学习实战》的代码手打了一遍，决定在这里一点点摸索一下该工程。实例的代码在使用上运用了香农熵，并且都是来处理离散数据的，因此有一些局限性，但是对其进行深层次的解析有利于对于代码的运作，python语言的特点及书写肯定是有帮助的。我们分别从每个函数开始：计算香农熵def c...
2019-04-08 21:46:00
676
转载 Python实现——二元线性回归(最小二乘法)
2019/3/30二元线性回归——矩阵公式法_又名：对于python科学库的糟心尝试_二元线性回归严格意义上其实不过是换汤不换药，我对公式进行推导，其实也就是跟以前一样的求偏导并使之为零，并且最终公式的严格推导我大概也只能说是将将理解，毕竟最初的矩阵一开始都不太清楚应该是什么样子的，其中，Coursera的课程起到了非常显著的帮助。其实这个部分我并不想写太多，因为理解并不是十分透彻...
2019-04-01 22:33:00
5164
转载 LOSKI,我
2019年入驻github以及博客园在发现用github的issue写博客稍微有些奇怪后决定开辟这个更适合写博的空间2019/4/1目前大一，计算机专业，尚未分流更多的时间花在了数据结构与算法，Leetcode，机器学习这几个方面LOSKI的Github转载于:https://www.cnblogs.com/LOSKI/p/10639683.html...
2019-04-01 22:24:00
115
转载 Python实现——一元线性回归(梯度下降法)
2019/3/25一元线性回归——梯度下降/最小二乘法_又名：一两位小数点的悲剧_感觉这个才是真正的重头戏，毕竟前两者都是更倾向于直接使用公式，而不是让计算机一步步去接近真相，而这个梯度下降就不一样了，计算机虽然还是跟从现有语句/公式，但是在不断尝试中一步步接近目的地。简单来说，梯度下降的目的在我看来还是要到达两系数的偏导数函数值为零的取值，因此，我们会从“任意一点”开始不断接近，...
2019-04-01 22:17:00
1216
转载 Python实现——二次多项式回归(最小二乘法)
2019/3/25真的，当那个图像出现的时候，我真的感觉太美了。或许是一路上以来自我的摸索加深的我对于这个模型的感受吧。二次函数拟合——最小二乘法公式法与线性回归相似，对二次函数进行拟合某种意义上也只是加了一个函数，虽然求解的方程变得更加繁琐，需要准备的变量也增加到了七个。思路有借鉴于：最小二乘法拟合二次曲线 C语言为了更好的理解回归问题中最小二乘法的求偏导过程，这次我选择自...
2019-04-01 22:16:00
10837
转载 Python实现——一元线性回归(最小二乘法)
2019/3/24线性回归——最小二乘法公式法暂时用python成功做出来了图像，但是其中涉及到的公式还是更多的来自于网络，尤其是最小二乘法公式中的两个系数的求解，不过目前看了下书高数也会马上提及（虽然可能不会讲这两个公式），但是运用的知识其实还是目前能够接受的：偏导，二元方程。乍一看其实也没什么，只是由于有了求和符号的干扰让计算显得复杂。最小二乘法-公式推导该博客中对其的推导看...
2019-04-01 22:14:00
2665
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人