Jack_lyp2017-CSDN博客

翻译吴恩达深度学习课程心得

心得1：深度学习内的矢量化（vectorization）在上这门课之前，我从没有意识到一个神经网络可以不用for循环来搭建。吴恩达很好地传达了矢量化代码设计的重要性。在作业中，他还提供了一个标准化的矢量代码设计样本，这样你就可以很方便的应用到自己的应用中了。心得2：DNN的深层理解在第一个课程中，我学会了用NumPy库实现前向和反向传播过程，我因而对诸如Tensor

2017-12-07 15:31:03 648

翻译统计学习方法-牛顿法和拟牛顿法

牛顿法和拟牛顿法牛顿法和拟牛顿法是求解无约束最优化问题的常用方法，有收敛速度快的优点。牛顿法是迭代算法，每一步需要求解目标函数的海赛矩阵的逆矩阵，计算比较复杂。拟牛顿法通过正定矩阵近似海赛矩阵的逆矩阵或海赛矩阵，简化了计算过程。一、背景Taylor展式若f(x)二阶导连续，将f(x)在xk处Taylor展开：上述迭代公式，即牛顿法。该方法可以直接推广到多维：用方

2017-12-01 16:19:05 1619

翻译机器学习和深度学习面试题

1.带核的SVM为什么能分类非线性问题？　　核函数的本质是两个函数的內积，而这个函数在SVM中可以表示成对于输入值的高维映射。注意核并不是直接对应映射，核只不过是一个內积 2.常用核函数及核函数的条件：　　核函数选择的时候应该从线性核开始，而且在特征很多的情况下没有必要选择高斯核，应该从简单到难的选择模型。我们通常说的核函数指的是正定和函数，其充要条件是对于任意的x属于X，要求

2017-11-29 15:08:30 1375

转载人工智能领域的几个的技术大牛博客

最近在学习深度学习方向，发现了几个大牛的博客，所以就Mark一下！1.李飞飞高徒Andrej Karpathy，目前是特斯拉人工智能与自动驾驶视觉总监，他在斯坦福获得博士学位后，其博客就火了。该博客通过实例介绍了深度学习的相关内容，有一些作者的技术思考，甚至还有一份斯坦福读博技巧。学术网站：http://cs.stanford.edu/people/karpathy/博客：http:/

2017-11-29 14:43:50 1809

原创 CentOS6下tmux安装和使用

一、tmux的安装1.安装tmux之前需要先安装一些支持的组件：yum install libevent-devel ncurses-devel2.下载源码包进行安装：wget http://downloads.sourceforge.net/tmux/tmux-1.6.tar.gztar zxvf tmux-1.6.tar.gzcd tmux-1.6./confi

2017-11-10 15:09:59 904

原创卷积神经网络细节上的问题总结

一、卷积层和池化层有什么区别？首先可以从结构上可以看出，卷积之后输出层的维度减小，深度变深。但池化层深度不变。同时池化可以把很多数据用最大值或者平均值代替。目的是降低数据量。降低训练的参数。对于输入层，当其中像素在邻域发生微小位移时，池化层的输出是不变的，从而能提升鲁棒性。而卷积则是把数据通过一个卷积核变化成特征，便于后面的分离。二、采用宽卷积的好处有什么？

2017-10-25 16:18:57 1149

翻译池化层的知识

卷积神经网络的一个重要概念就是池化层，一般是在卷积层之后。池化层对输入做降采样，常用的池化做法是对每个滤波器的输出求最大值，平均值，中位数等。池化的特点之一就是它输出一个固定大小的矩阵，这对分类问题很有必要。例如，如果你用了100个滤波器，并对每个输出使用最大池化，那么无论滤波器的尺寸是多大，也无论输入数据的维度如何变化，你都将得到一个100维的输出。这让你可以应用不同长度的句

2017-10-25 11:40:39 17471

转载 SVM支持向量机算法的详细推导

一、数学部分1.1二维空间支持向量机的典型应用是分类，用于解决这样的问题：有一些事物是可以被分类的，但是具体怎么分类的我们又说不清楚，比如说下图中三角的就是C1类，圆圈的就是C2类，这都是已知的，好，又来了一个方块，这个方块是属于C1呢还是属于C2呢，说不清楚。SVM算法就是试着帮您把这件事情说清楚的。在二维空间里（这时候样本有两个参照属性），SVM就是在C1和C2中间划一条线g(x)

2017-09-30 10:18:50 1021

Jack_lyp2017的博客