zCGr_GzGy-CSDN博客

原创 C++ 类型转换笔记

C++ 中类型转换分为1. 隐式类型转换2. 显示类型转换一，隐式类型转换1）常发生在赋值，条件表达式算术转换：规则：i. 小类型提升为大类型，同类型unsigned > signedii. 比int 的小的类型，如果int 能包含，通通变为int，否则unsigned intshort sval;char cval;sval + cval /

2015-09-06 23:51:57 552

原创 Deeplearning学习之路_第四章（Self-Taught learning&deep networks）

一些笔记：

2013-10-05 17:20:43 1775

原创 Deeplearning学习之路_第三章（Softmax回归）

一些笔记：Softmax回归1.Softmax回归是logistic回归更一般的形式，logistic回归是针对二分类问题，而softmax回归更加一般化的针对k分类问题；2.通常logistic回归的类别为{0,1}，而softmax回归习惯用{1,2,...k}；3.不同于logistic回归的还有一个地方，softmax回归的的参数集是冗余的，hypothesis funct

2013-10-02 20:03:46 3195 2

原创 Deeplearning学习之路_第二章（Vectorization&PCA）

一些笔记：1）Vectorize1.对于matlab编程，将数据向量化后，利用matlab的函数提供的强大的矩阵处理功能对数据进行处理将比写C—style的显示循环处理数据的效率要高很多，所以要在不断的练习中客服使用显示循环的习惯。2）PCA1.对于输入数据的特征之间可能存在高度相关的数据（比如图像），这种数据一般都称为冗余数据。面对这种数据时，我们的第一反应就是如何提取数据中有用

2013-10-01 16:42:09 1693

原创最优化理论学习笔记_2(非精确线性搜索)

当优化函数的维度n非常大或者f（x）非常复杂的时候，精确线性搜索的计算量是非常大的，并且在离最优解尚远的时候，并没有做精确线性搜索的必要。这使得我们不得不考虑非精确线性搜索。非精确线性搜索：如果我们不适用精确线性搜索的话，我们要如何选择步长呢?取步长alpha使得下式成立是否可以呢？f（x_k+alpha_k*d_k）有例子告诉我们，这个准则未必行得通。优化问题 min

2013-09-26 19:36:07 5899 1

原创算法设计和复杂性理论学习笔记_3(分治策略算法)

一些笔记：1.分治算法的主要思想：将原问题划分成若干的子问题，分而治之，最后将若干个子问题的解合并得到原问题的解。常常含有二分、递归的方法在里面2.分析分治算法的工具——递归方程；3.每次划分的时候子问题的规模尽量接近：连续划分平衡原则；4.通常两类递归方程：1） T（n）= \sum{i=1}_{n-1} T（n-i）+g（n）；2） T（n）=a*f（n/b）+ d（

2013-09-23 23:54:30 1261

原创 Deeplearning学习之路_第一章（Sparse Autoencoder）

一些笔记：前馈神经网络（feedforward network）：1.一个网络通常又若干层构成，每一层网络都有若干个神经元，在参数初始化之前，每一层的各个节点彼此无法区分，不知道以后“承担”怎样的任务；2.参数随机初始化是使得对称失效，使得各个节点互相可以“区分”；3.每个神经元接受到实数z作为输入，输出f(z),f是激活函数；4.激活函数通常选择sigmoid或者tanh；

2013-09-21 19:50:50 2397 1

原创 Deeplearning学习之路_第零章（序言）

偶遇很偶然的一次机会，在随意浏览网页的过程中看到了网易公开课——机器学习的课程，并因此被课程所包含的的生动有趣的内容所吸引，便把课程给学完了，感觉意犹未尽的我也下决心以后要往这个方向发展。初来咋到，被机器学习世界眼花缭乱的算法理论所迷惑，不知道从何入手，由于自己之前对计算机的接触大多局限在一些娱乐项目中，因此严重缺乏编程经验的我，只停留在用c写一个20行的简单小程序的水平，想要实现一些复杂的算

2013-09-21 16:44:28 964

原创算法设计和复杂性理论学习笔记_2(数学基础)

函数的渐进界函数的渐进界反映了函数收敛的速度（可以是无穷）。在算法分析中，我们研究一个算法的复杂度在输入实例规模n增长的情况下的变化趋势，是算法好坏的一个重要指标。定义：递推方程的求解方法求解递推方程，有熟知的换元法，错位相减法，特征方程法等常用方法之外，课堂上还介绍了原来没有接触过的二叉树法，猜测法，以及主定理（MasterTheorem）,在算法分析中，有些时候遇到

2013-09-19 18:12:14 1101

原创最优化理论学习笔记_1(精确线性搜索)

由于机器学习领域充斥着各种各样的优化问题，早就想系统的学习优化理论了，借着这学期选择了最优化理论的课程，就认真的学习一下吧！最优化理论通常研究如下问题，引用wiki的定义：通俗的理解，就是求解在各种约束下函数的最值问题。线性搜索在利用迭代的方法解决无约束优化问题时，其中第k步迭代的公式是：而所谓的线性搜索的方法，就是指的是在迭代方向已知的情况下，求解

2013-09-18 20:55:50 12810 2

原创算法设计和复杂性理论学习笔记_1(基本概念)

<img src="http://latex.codecogs.com/gif.latex?\sum_{a=1}^{9}"

2013-09-17 13:36:06 1329

zCGr_GzGy的专栏