![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 53
Python实现机器学习算法/机器学习算法介绍
廣阝
这个作者很懒,什么都没留下…
展开
-
Python实现朴素贝叶斯分类器
0. 算法简介及数据集算法的测试数据集是西瓜数据集3.0:我将数据集转成了csv格式方便Python读取:青绿,蜷缩,浊响,清晰,凹陷,硬滑,0.697,0.46,是乌黑,蜷缩,沉闷,清晰,凹陷,硬滑,0.774,0.376,是乌黑,蜷缩,浊响,清晰,凹陷,硬滑,0.634,0.264,是青绿,蜷缩,沉闷,清晰,凹陷,硬滑,0.608,0.318,是浅白,蜷缩,浊响,清晰,凹陷,硬滑,0.556,0.215,是青绿,稍蜷,浊响,清晰,稍凹,软粘,0.403,0.237,是乌黑,稍蜷,浊响原创 2021-01-14 20:08:48 · 2858 阅读 · 1 评论 -
一个简单的神经网络训练框架
神经网络基本原理前向传播其中,σ(·)是激活函数,在简单的密集神经网络中,隐层一般使用ReLu线性整流函数或者Sigmoid函数,在输出层,如果分类任务是二分类,一般使用Sigmoid函数,如果是多分类,一般使用Softmax函数,这几种函数为:损失函数针对二分类任务,我们一般选择二元交叉熵损失函数针对多分类任务,我们选择多元交叉熵损失函数反向传播先让损失函数对输出层未激活单元z求导得出最后一层的误差值:随后通过链式求导得出每一层的误差:然后就可以得出损失函数对权重矩阵及偏差向原创 2020-12-02 01:13:55 · 481 阅读 · 1 评论 -
ID3决策树的Python实现以及可视化
算法介绍ID3决策树是比较经典的决策树,在周志华的机器学习中,生成决策树的算法为:算法的关键是如何选择最优划分属性,在ID3决策树中,用信息增益来指导决策树选择最优划分属性首先定义信息熵为:再定义信息增益为:一般而言,信息增益越大,意味着使用属性a进行划分所获得的纯度提升越大,因此我们选择最大信息增益的属性作为最优划分属性。Python实现思路树的数据表示既然要实现一棵树,首先要做的就是定义节点的数据结构,在C中,节点一般以结构体的形式存储,所以我们在Python中可以参考这一思路定义原创 2020-11-12 00:21:42 · 2252 阅读 · 5 评论 -
使用SVD奇异值分解求解PCA+Python实现
这几天在看有关PCA的博客时,感觉文章中针对如何用SVD解PCA的过程的讲解不是很清晰,自己捋了捋思路,把自己对于SVD解PCA的步骤分享出来关于PCA的思想和原理,这里不阐述,不过我强烈推荐这篇文章,当初就是看这篇文章入坑PCA的http://blog.codinglabs.org/articles/pca-tutorial.html直接解PCA设有n组m维数据,组成 m*n 的矩阵 Xm∗n\Chi_{m*n}Xm∗n , 则 X\ChiX 的协方差矩阵 C\mathc原创 2020-06-04 02:08:15 · 2815 阅读 · 2 评论