2016年05月_KangRoger

10月 09月 06月 05月

原创 tiny_cnn源码阅读(3)-layer_base和layer

概述layer_base分析layer分析概述神经网络有各个层组成，层是神经网络的基本组件。tiny_cnn中，实现功能的层有input_layer, convolutional_layer, average_pooling_layer, max_pooling_layer, dropout_layer, linear_layer, lrn_layer, fully_connected_lay

2016-05-30 22:24:30 1542

原创 tiny_cnn源码阅读(2)-激活函数

激活函数概述identiti函数sigmoid函数relu函数leaky_reluelusoftmaxtanhtanh p1m2源码阅读参考激活函数概述神经网络都有各个层组成，在不同的层中，用到不同的激活函数。在看layer之前，先了解一下定义的激活函数。数据”经过一个神经网络时，经过卷积或池化等运算后，最终输出的一个值。这个“输出值”就是经过激活函数计算的来的，反向求导，也

2016-05-29 14:46:55 2920

机器学习是理论性很强的一门课程，在工程实践时，常常难以把理论和代码结合起来。想通过一个工程来学习一下机器学习中的卷积神经网络。 tiny_cnn是c++写的实现cnn的代码，想通过代码来了解理论，学习和锻炼一下编程能力。tiny_cnn是c++11编写的，只有头文件，不依赖其他库就能运行MINST。计算卷积以及求导，这样大规模复杂的运算一般都是用GPU，tiny_cnn并没有是用GPU，它只是是用

2016-05-29 13:31:43 2871

原创 POCO安装并测试

POCO是C++实现的包含网络的，可以集成到应用的开源库。官网地址为：http://pocoproject.org。安装我下载的是“poco-1.7.3-all.tar.gz”，解压后，先配置，我已经安装openssl，不安装Data模块./configure --omit=Data/ODBC,Data/MySQLmakemake install动态链接库默认安装在’/usr/local/lib

2016-05-28 20:34:32 7463

原创《机器学习实战》--Logistic回归

Sigmoid函数梯度下降法随机梯度下降批梯度下降参考逻辑回归中的输入和输出是非线性关系，这样可以把输出限定在某一范围内。一个常用的逻辑回归函数为Sigmoid函数Sigmoid函数Sigmoid函数表达式为hθ(x)=g(θTx)=11+e−θxh_\theta(x)=g(\theta^Tx)=\frac{1}{1+e^{-\theta x}}其形状如下：可以看出，对于给定的任何

2016-05-24 23:22:48 1375

原创《机器学习实战》--朴素贝叶斯

2016-05-23 22:22:24 879

原创《机器学习实战》--决策树

决策树熵entropyID3算法条件熵信息增益补充特征用完特征类型构造终止条件剪支参考决策树决策树（Decision Tree）可以使二叉树或多叉树，它是一种分类算法，通过数据构建决策树，可以高效地分类数据。决策树是树形结构，可以分为分支节点和叶子节点。叶子节点为终止节点，一般可以划分数据类别。构造决策树一般有以下步骤： 1、所有数据都在一个分支节点上。 2、遍历数据所有

2016-05-21 23:36:11 1243

原创《机器学习实战》--k近邻分类算法kNN

介绍kNN全称为k-nearest neighbors，是模式识别中比较简单的一种算法，可以用于分类和回归。使用时，输入的训练样本带有标签，输出根据是用于分类还是回归：分类：分类问题的输出为：找出K个和要预测对象最近邻的样本，这K个样本中，“大多数”属于哪一类即为预测对象的分类标签。回归：回归问题的输出为：找出k个和回归对象最邻近的样本，这k个样本的标签的”平均值“即为要回归对象的标签。算法算法的训

2016-05-15 22:15:57 1741