KangRoger-CSDN博客

原创容器、迭代器和算法

文章目录容器、迭代器和算法容器的实现Java的实现方法C++的实现方法容器与迭代器链表容器与迭代器集合与迭代器迭代器与算法求容器中元素纸盒微型算法库容器和迭代器的分类容器的陷阱这是《深入实践C++模板编程》第五章“容器、迭代器和算法”的读书笔记。容器、迭代器和算法通过C++模板可以将类型以及其他编译期常数作为参数抽离出来，使代码拜托对类型依赖，从而设计容纳不同类型的容器成为可能。容器是指...

2018-10-29 23:15:49 1448

文章目录模板特例vector\模板特例通过函数模板和类模板，可以为不同类型数据编写统一函数和类。但是现实情况比想象复杂，单一模板很难兼容各种情况。C++还提供了模板特例（template partial specialization）：对于某个已有模板，可以为某个或某组模板参数类型另外一种一种变体。vector&amp;lt;bool&amp;gt;模板特例的一个例子是STL中的vector&amp;lt;T&amp;gt...

2018-10-11 23:32:45 947

原创模板参数类型

文章目录模板参数类型整数模板参数函数指针模板参数指针及引用模板参数成员函数指针模板参数模板型模板参数这是《深入实践C++模板编程》第三章“模板参数类型详解”的读书笔记。模板参数类型模板参数通常表示类型，表示类型的模板参数称为类型模板参数（type template parameter）;此外还有非类型模板参数（non-type template parameter），非类型模板参数包含以下四...

2018-09-24 22:26:36 7049 2

原创 MXNet Data IO

MXNet Data IO设计

2017-06-25 16:25:42 2041

原创 PS-Lite源码分析

Parameter Server的PS-Lite实现

2017-06-15 23:09:08 9919 4

原创 C++中的字符串流

字符串流stream，用来做数据类型转换；和C以及C++11实现对比。

2017-05-25 22:23:49 3423 1

翻译程序员应该了解的数字

程序访问不同设备所需时间

2017-05-23 23:25:42 8205 10

原创《Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition》笔记

CNN要求输入size固定，作者提出SPP layer，去除了CNN这一限制。

2017-04-26 23:18:07 1901

原创《Rich feature hierarchies for accurate object detection and semantic segmentation》笔记

R-CNN，通过CNN提取特征，之后训练SVM分类器分类、回归确定目标区域

2017-04-24 21:35:49 1223

原创《A Neural Algorithm of Artistic Style》笔记

图像内容和风格都是比较抽象的，这篇文章通过深度学习，提取了图像内容和风格，并将两者合并，生成新的图像。

2017-04-13 22:36:21 6817 5

原创《Xception: Deep Learning with Depthwise Separable Convolutios》笔记

继Inception V1-V4之后，又一方法改进其结构。通过解耦和处理cross-channel相关和spatial相关，得到一个Xception结构网络

2017-04-09 20:49:13 6192

原创《Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning》笔记

Inception和Residual结合：Inception-v4和Inception-ResNet

2017-04-06 23:37:33 4769 1

原创《Rethinking the Inception Architecture for Computer Vision》笔记

Inception-V2设计介绍

2017-04-04 23:11:42 11038 2

原创《Residual Networks Behave Like Ensembles of Relatively Shallow Networks》笔记

从Ensemble角度解释Residual Networks

2017-03-31 23:16:05 3178 1

原创梯度下降算法总结

梯度下降法：基本梯度下降法、Momentum梯度下降法、Nesterov Momentum梯度下降法、AdaGrad、RMSprop、AdaDelta、Adam

2017-03-30 21:54:43 2953

原创《Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift》笔记

batch normalization

2017-03-14 23:35:20 953

原创《Understanding the difficulty of training deep feedforward neural networks》笔记

Sigmod为什么不适合深度学习，交叉熵代价函数和平方差代价函数，神经网络权重初始化

2017-03-11 11:13:51 5157

原创机器学习中的损失函数

平方损失函数对数损失函数Hinge损失函数

2017-03-01 23:40:38 2481 2

原创 ILSVRC历届冠军论文笔记

记录ILSVRC比赛，几个经典网络结构笔记

2017-02-22 23:39:28 20333 7

原创 cs231n-(9)迁移学习和Fine-tune网络

介绍适合fine-tune的场景，以及方法。

2017-02-18 21:55:09 7146

原创 cs231n-(8)理解和可视化卷积网络

理解卷积神经网络学习内容，可视化

2017-02-18 21:53:20 4911

原创 cs231n-(7)卷积神经网络：架构，卷积层/池化层

卷积神经网络的架构，以及常用到的层

2017-02-18 21:51:07 37975 3

原创 cs231n-(6)实现Minimal神经网络

训练一个Minimal神经网络

2017-02-18 21:46:07 1381

原创 cs231n-(5)神经网络-3：学习和评估

在学习过程中一些检查技巧，训练技巧，参数更新方式，以及最终模型集成和评估。

2016-10-22 11:06:12 5289

原创 cs231n-(5)神经网络-2：设置数据和Loss

数据预处理方法，权重初始化方法，以及正则化方法

2016-09-24 14:56:35 7107

原创《Deep Learning》(4)-数值计算

讲解一些数值计算的问题，例如溢出，优化、雅克比矩阵、海森矩阵、牛顿法、梯度下降等。

2016-09-15 22:27:14 3625 3

原创 cs231n-(5)神经网络-1：建立架构

介绍了神经元如何组成神经网络；激活函数；网络层数的意义。

2016-09-14 00:05:59 3198

原创《Deep Learning》(3)-概率和信息论

介绍概率的一些基础，还有一点信息论知识。

2016-09-10 16:37:49 9042 1

原创 cs231n-(4)反向传播

梯度反向传播，分阶段计算，链式法则

2016-09-08 22:32:19 2775

原创 cs231n-(3)最优化：随机梯度下降

介绍了梯度下降法，包括计算梯度的方法，检查梯度，随机梯度下降和批梯度下降

2016-09-04 11:46:25 3805

原创 cs231n-(2)线性分类器：SVM和Softmax

讲解了线性分类器，要理解score function和loss function，以及svm的评分和softmax的概率

2016-09-03 21:17:41 7226

原创《Deep Learning》(2)-线性代数

介绍线性代数和矩阵操作的一些基础。

2016-09-03 09:56:15 2969 1

原创《Deep Learning》(1)-介绍

在读书时学过不少数学知识，工作后才意识到数学的重要性。机器学习、深度学习这些理论基础算是基本都学过，但是有些理解不深刻、印象模糊，不成系统。这里以《Deep Learning》为基础，记录一下再度学习的过程和笔记。 1、介绍 2、线性代数待补充

2016-09-03 09:53:46 1470

原创 cs231n-(1)图像分类和kNN

cs231n（1）讲述图像分类的任务、难点；训练集、验证集、测试集区别；NN

2016-09-03 09:40:25 8968 1

原创 tiny_cnn源码阅读(4)-convolutional_layer

convolutional_layer是用来计算卷积的。connection_tableconnecction_table是一个二维数组，(x,y)的值（true/false)表示x和y是否关联，即是用来判断和那几个feature_map连接的。在其实现中，内部数据结构为一个bool类型队列，函数is_connected判断是否关联bool is_connected(cnn_siz

2016-06-02 22:39:45 1664

原创 tiny_cnn源码阅读(3)-layer_base和layer

概述layer_base分析layer分析概述神经网络有各个层组成，层是神经网络的基本组件。tiny_cnn中，实现功能的层有input_layer, convolutional_layer, average_pooling_layer, max_pooling_layer, dropout_layer, linear_layer, lrn_layer, fully_connected_lay

2016-05-30 22:24:30 1618

原创 tiny_cnn源码阅读(2)-激活函数

激活函数概述identiti函数sigmoid函数relu函数leaky_reluelusoftmaxtanhtanh p1m2源码阅读参考激活函数概述神经网络都有各个层组成，在不同的层中，用到不同的激活函数。在看layer之前，先了解一下定义的激活函数。数据”经过一个神经网络时，经过卷积或池化等运算后，最终输出的一个值。这个“输出值”就是经过激活函数计算的来的，反向求导，也

2016-05-29 14:46:55 2996

原创 tiny_cnn源码阅读(1)-编译运行源码

机器学习是理论性很强的一门课程，在工程实践时，常常难以把理论和代码结合起来。想通过一个工程来学习一下机器学习中的卷积神经网络。 tiny_cnn是c++写的实现cnn的代码，想通过代码来了解理论，学习和锻炼一下编程能力。tiny_cnn是c++11编写的，只有头文件，不依赖其他库就能运行MINST。计算卷积以及求导，这样大规模复杂的运算一般都是用GPU，tiny_cnn并没有是用GPU，它只是是用

2016-05-29 13:31:43 2936

原创 POCO安装并测试

POCO是C++实现的包含网络的，可以集成到应用的开源库。官网地址为：http://pocoproject.org。安装我下载的是“poco-1.7.3-all.tar.gz”，解压后，先配置，我已经安装openssl，不安装Data模块./configure --omit=Data/ODBC,Data/MySQLmakemake install动态链接库默认安装在’/usr/local/lib

2016-05-28 20:34:32 7600

原创《机器学习实战》--Logistic回归

Sigmoid函数梯度下降法随机梯度下降批梯度下降参考逻辑回归中的输入和输出是非线性关系，这样可以把输出限定在某一范围内。一个常用的逻辑回归函数为Sigmoid函数Sigmoid函数Sigmoid函数表达式为hθ(x)=g(θTx)=11+e−θxh_\theta(x)=g(\theta^Tx)=\frac{1}{1+e^{-\theta x}}其形状如下：可以看出，对于给定的任何

2016-05-24 23:22:48 1432