- 博客(8)
- 收藏
- 关注
翻译 吴恩达深度学习课程心得
心得1:深度学习内的矢量化(vectorization)在上这门课之前,我从没有意识到一个神经网络可以不用for循环来搭建。吴恩达很好地传达了矢量化代码设计的重要性。在作业中,他还提供了一个标准化的矢量代码设计样本,这样你就可以很方便的应用到自己的应用中了。心得2:DNN的深层理解在第一个课程中,我学会了用NumPy库实现前向和反向传播过程,我因而对诸如Tensor
2017-12-07 15:31:03
648
翻译 统计学习方法-牛顿法和拟牛顿法
牛顿法和拟牛顿法 牛顿法和拟牛顿法是求解无约束最优化问题的常用方法,有收敛速度快的优点。牛顿法是迭代算法,每一步需要求解目标函数的海赛矩阵的逆矩阵,计算比较复杂。拟牛顿法通过正定矩阵近似海赛矩阵的逆矩阵或海赛矩阵,简化了计算过程。一、背景Taylor展式若f(x)二阶导连续,将f(x)在xk处Taylor展开:上述迭代公式,即牛顿法。该方法可以直接推广到多维:用方
2017-12-01 16:19:05
1619
翻译 机器学习和深度学习面试题
1.带核的SVM为什么能分类非线性问题? 核函数的本质是两个函数的內积,而这个函数在SVM中可以表示成对于输入值的高维映射。注意核并不是直接对应映射,核只不过是一个內积 2.常用核函数及核函数的条件: 核函数选择的时候应该从线性核开始,而且在特征很多的情况下没有必要选择高斯核,应该从简单到难的选择模型。我们通常说的核函数指的是正定和函数,其充要条件是对于任意的x属于X,要求
2017-11-29 15:08:30
1375
转载 人工智能领域的几个的技术大牛博客
最近在学习深度学习方向,发现了几个大牛的博客,所以就Mark一下!1.李飞飞高徒Andrej Karpathy,目前是特斯拉人工智能与自动驾驶视觉总监,他在斯坦福获得博士学位后,其博客就火了。该博客通过实例介绍了深度学习的相关内容,有一些作者的技术思考,甚至还有一份斯坦福读博技巧。学术网站:http://cs.stanford.edu/people/karpathy/博客:http:/
2017-11-29 14:43:50
1809
原创 CentOS6下tmux安装和使用
一、tmux的安装1.安装tmux之前需要先安装一些支持的组件:yum install libevent-devel ncurses-devel2.下载源码包进行安装:wget http://downloads.sourceforge.net/tmux/tmux-1.6.tar.gztar zxvf tmux-1.6.tar.gzcd tmux-1.6./confi
2017-11-10 15:09:59
904
原创 卷积神经网络细节上的问题总结
一、卷积层和池化层有什么区别? 首先可以从结构上可以看出,卷积之后输出层的维度减小,深度变深。但池化层深度不变。同时池化可以把很多数据用最大值或者平均值代替。目的是降低数据量。降低训练的参数。对于输入层,当其中像素在邻域发生微小位移时,池化层的输出是不变的,从而能提升鲁棒性。而卷积则是把数据通过一个卷积核变化成特征,便于后面的分离。 二、采用宽卷积的好处有什么?
2017-10-25 16:18:57
1149
翻译 池化层的知识
卷积神经网络的一个重要概念就是池化层,一般是在卷积层之后。池化层对输入做降采样,常用的池化做法是对每个滤波器的输出求最大值,平均值,中位数等。 池化的特点之一就是它输出一个固定大小的矩阵,这对分类问题很有必要。例如,如果你用了100个滤波器,并对每个输出使用最大池化,那么无论滤波器的尺寸是多大,也无论输入数据的维度如何变化,你都将得到一个100维的输出。这让你可以应用不同长度的句
2017-10-25 11:40:39
17471
转载 SVM支持向量机算法的详细推导
一、数学部分1.1二维空间支持向量机的典型应用是分类,用于解决这样的问题:有一些事物是可以被分类的,但是具体怎么分类的我们又说不清楚,比如说下图中三角的就是C1类,圆圈的就是C2类,这都是已知的,好,又来了一个方块,这个方块是属于C1呢还是属于C2呢,说不清楚。SVM算法就是试着帮您把这件事情说清楚的。在二维空间里(这时候样本有两个参照属性),SVM就是在C1和C2中间划一条线g(x)
2017-09-30 10:18:50
1021
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人