机器学习
菜鸡儿的架构师之路
这个作者很懒,什么都没留下…
展开
-
Python梯度下降法实现二元逻辑回归
Python梯度在下降法实现二元逻辑回归二元逻辑回归假设函数定义当函数值大于等于0.5时,结果为1,当函数值小于0.5时,结果为0.函数的值域是(0, 1)。二元逻辑回归的损失函数上图为二元逻辑回归的概率公式,则代价函数可以表示为损失函数求偏倒数为可以发现和线性回归的结果是一样的,只不过是假设函数h发生了变化。正则化为了避免过拟合,通常在代价函数后加一个正则化项,针对二元逻...原创 2018-10-01 09:30:53 · 2529 阅读 · 1 评论 -
Python3利用Axes3D库画3D模型图
Python3利用Axes3D库画3D模型图最近在学习机器学习相关的算法,用python实现。自己实现两个特征的线性回归,用Axes3D库进行建模。python代码import numpy as npfrom scipy import statsimport matplotlib.pyplot as pltfrom mpl_toolkits.mplot3d import Axes3D...原创 2018-09-28 13:39:17 · 11955 阅读 · 0 评论 -
kd-tree找最邻近点 Python实现
kd-tree找最邻近点 Python实现基本概念kd-tree是KNN算法的一种实现。算法的基本思想是用多维空间中的实例点,将空间划分为多块,成二叉树形结构。划分超矩形上的实例点是树的非叶子节点,而每个超矩形内部的实例点是叶子结点。超矩形划分方法有数据集datalist,其中的数据是Xi,每个Xi由多个特征值组成。首先将所有数据的Xi[0]找出,取得Xi[0]的中位数center,在树的...原创 2018-10-14 12:30:56 · 3797 阅读 · 0 评论 -
Tensorflow实现KNN算法
tensorflow实现KNN算法KNN算法应该是机器学习中比较好理解的一种算法,它没有训练的过程,就是看样本点中与测试点距离(可以是欧式距离,也可以是曼哈顿距离等等)最近的K个点的分类。采用投票的方式,即K个点中最多的分类即是该测试点的分类。tensorflow的代码如下。这里我以MNIST数字识别作为样本,最后的测试准确率可以达到95%以上。import tensorflow as t...原创 2018-11-18 21:57:53 · 1459 阅读 · 4 评论 -
Python 实现朴素贝叶斯 MNIST数据集
Python实现朴素贝叶斯算法朴素贝叶斯是机器学习的一种算法,之所以成为朴素,是因为它的想法“简单”,简单地认为样本中所有的特征都无关,即P(AB) = P(A)P(B)。所以,有P(y|xi) = P(y)P(x0 = xi0|y)P(x1 = xi1|y)P(x2 = xi2|y)…P(xk = xik|y)y是贝叶斯对于xi是y类的估计大小最终对xi的预测分类是argmaxP(y|x...原创 2018-11-19 21:42:32 · 2914 阅读 · 1 评论 -
Tensorflow: MNIST数据集实现DNN、CNN、LSTM神经网络
最近学了一下tensorflow的基本用法,这里做一下总结全连接深度神经网络(FC-DNN)全连接深度神经网络,每一层的神经元直接都是全连接,并且不共享权值。在普通的分类的问题中表现的不错,但是对于图片处理等具有网格形式的数据,最好采用CNN(卷积神经网络),对于序列化数据如NLP(自然语言处理)、文字分析等采用RNN(循环神经网络)表现更佳。DNN用tensorflow的实现代码如下。i...原创 2018-11-17 23:10:30 · 1159 阅读 · 1 评论 -
Python实现支持向量机(SVM) MNIST数据集
Python实现支持向量机(SVM) MNIST数据集SVM的原理这里不讲,大家自己可以查阅相关资料。下面是利用sklearn库进行svm训练MNIST数据集,准确率可以达到90%以上。from sklearn import svmimport numpy as npfrom tensorflow.examples.tutorials.mnist import input_data...原创 2018-11-20 11:22:25 · 13749 阅读 · 3 评论 -
Pyhton实现决策树算法 MNIST数据集
Pyhton实现决策树算法 MNIST数据集决策树是一种比较接近人类思维方式的算法,将样本通过每个特征值的信息增益进行划分,从而保证每个划分之后的结果信息熵的消减量达到最大。具体的原理请大家自己查找相关资料。sklearn实现代码如下, 准确率可以达到90%左右。from sklearn import treeimport numpy as npfrom tensorflow.examp...原创 2018-11-20 12:00:05 · 4056 阅读 · 2 评论