![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 75
oo笨小孩oo
静心知路,独自修行,勿忘初心,方得始终
展开
-
深度学习Theano中scan的使用方法
深度学习python库Theano中的函数scan是一种迭代形式,所以可以用于类似循环(looping)的场景。需要注意的是scan在计算的时候,可以访问以前n步的输出结果,所以比较适合RNN网络。原创 2016-03-29 00:26:58 · 4026 阅读 · 0 评论 -
机器学习中L0, L1, L2正则项介绍
L0,L1,L2正则项是机器学习中常用的正则项,本文主要对这三种正则项做一个简单的介绍。L0: L0主要是指参数中0的个数,希望参数中的大部分元素是0,希望参数是稀疏的,但是L0有一个缺点就是难以优化,所以就引出了L1正则项。L1: L1正则项是指向量中各个元素绝对值之和,L0正则项的最优凸近似,它比L0要更容易求解,所以在实际使用中,L1的使用要多于L0的使用。 C=C0+λn∣∣w∣∣C=C_原创 2016-08-02 13:14:06 · 10263 阅读 · 1 评论 -
梯度下降原理及Python实现
版权声明:本文为原创文章:http://blog.csdn.net/programmer_wei/article/details/51941358梯度下降算法是一个很基本的算法,在机器学习和优化中有着非常重要的作用,本文首先介绍了梯度下降的基本概念,然后使用python实现了一个基本的梯度下降算法。梯度下降有很多的变种,本文只介绍最基础的梯度下降,也就是批梯度下降。实际应用例子就不详细说了,网上关于原创 2016-07-18 13:44:17 · 35954 阅读 · 11 评论