深度学习
Beyond_2016
这个作者很懒,什么都没留下…
展开
-
深度学习—初见
深度学习(人工神经网络的研究的概念)编辑本词条由“科普中国”百科科学词条编写与应用工作项目审核。深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。[1] 深度学习的概念由Hinton等人于2006年提出。基于深度置信网络(DBN)提出非监督贪心逐层原创 2017-10-29 20:10:05 · 703 阅读 · 0 评论 -
主流深度学习框架对比
深度学习研究的热潮持续高涨,各种开源深度学习框架也层出不穷,其中包括TensorFlow、Caffe、Keras、CNTK、Torch7、MXNet、Leaf、Theano、DeepLearning4、Lasagne、Neon,等等。然而TensorFlow却杀出重围,在关注度和用户数上都占据绝对优势,大有一统江湖之势。表2-1所示为各个开源框架在GitHub上的数据统计(数据统计于2017年1月...原创 2018-08-15 15:02:49 · 525 阅读 · 0 评论 -
ROS,Ubuntu,noobs,raspbian和raspbeery pi3的关系
今年要研究AI方向,具体课题还没定,但已经确定在raspbeery pi3上完成ros的东西。之前完全没接触过树莓派,更不清楚ROS系统。看了很多贴吧,总觉得越看越糊涂。 现在之总结了些:Noobs和Raspbian是树莓派的操作系统,ROS是机器人操作系统。不知对不对。但比如树莓派上安装了noobs或raspbian系统后,又和ROS有什么关系呢?ros应该也是个操作系统吧...原创 2018-08-15 13:55:32 · 2779 阅读 · 1 评论 -
Unhandled exception at 0x000007FEFD5C9E5D in OpenCV3.3_TestDemo.exe: Microsoft C++ exception: cv::Ex
1 致谢对于OpenCV的安装 要感谢网友的教程链接如下:https://blog.csdn.net/beyond_2016/article/details/81359762教程写的十分详细 截图什么的也很好 2 问题描述今天在安装和测试OpenCV的时候遇到了这样的问题 测试代码如下 其中图片文件的路径是用Windows文件资源管理器里面的“复制路径”功能复制...原创 2018-08-02 16:12:10 · 2732 阅读 · 2 评论 -
VS2013+OpenCV3.3安装教程
为了搭建VS2013+OpenCV3.30版本的环境,着实踩了很多坑,费了不少力,为了给朋友们一个正确的指引,少走弯路,我决心再前人的基础上,重新写下这篇博文,将踩过的坑以及注意事项,清晰地记录下来,希望对你有所帮助。 简介OpenCV于8月3日正式发布了OpenCV3.3版本,下载地址1SourceForge,下载地址2Github 改变主要消息是我们将DN...原创 2018-08-02 16:04:24 · 6778 阅读 · 1 评论 -
二阶优化算法:牛顿法
牛顿法的基本思想:利用迭代点处的一阶导数(梯度)和二阶导数(Hessian矩阵)对目标函数进行二次函数近似,然后把二次模型的极小点作为新的迭代点,并不断重复这一过程,直至求得满足精度的近似最小值。 牛顿法的更新公式,基于二阶泰勒展开: 然后对上式求导,并令,得到更新公式: 对于神经网络病态条件问题,出现在梯度变化过快的情况时即二阶导数较大,此时通过...原创 2018-08-14 16:08:37 · 3586 阅读 · 0 评论 -
常见的几种最优化方法
目录1. 梯度下降法(Gradient Descent)2. 牛顿法和拟牛顿法(Newton's method & Quasi-Newton Methods3. 共轭梯度法(Conjugate Gradient)4. 启发式优化方法 5. 解决约束优化问题——拉格朗日乘数法 我们每个人都会在我们的生活或者工作中遇到各种各样的最优化问题,比如每个企业和个人都要...原创 2018-08-14 16:07:44 · 1356 阅读 · 0 评论 -
机器学习题目
一、单项选择题 1. 考察SVM 分类和深度学习逻辑回归分类的区别 B. SVM 只能应用于线性分类错误,SVM 可以应用于线性分类和非线性分类问题,取决于核函数的选取。 C. SVM 是凸问题,深度学习都是非凸问题正确,深度学习算法的目标函数,几乎全都是非凸的。 2. 考察 L1 和 L2 正则化的区别 L0 范数:向量中非0元素...原创 2018-07-24 16:13:25 · 2695 阅读 · 0 评论 -
深度学习常见问题
1、神经网络基础问题(1)Backpropagation(要能推倒) 后向传播是在求解损失函数L对参数w求导时候用到的方法,目的是通过链式法则对参数进行一层一层的求导。这里重点强调:要将参数进行随机初始化而不是全部置0,否则所有隐层的数值都会与输入相关,这称为对称失效。(2)梯度消失、梯度爆炸 梯度消失:这本质上是由于激活函数的选择导致的, 最简单的sigmoid函数为例,在函数的...原创 2018-07-24 16:09:42 · 571 阅读 · 0 评论 -
【经典】吴恩达《机器学习》课程
如果要推荐《机器学习》的学习课程,那必然首选吴恩达的《机器学习》课程,无论是国内还是国外,这是最火的机器学习入门课程,没有之一。吴恩达老师用易于理解、逻辑清晰的语言对机器学习算法进行介绍,无数新手正是通过这门课程了解了机器学习。吴恩达老师的《机器学习》课程主要有两门,一门是Cousera上的课程,另一门是斯坦福大学的课程CS229: Machine Learning。这两门课程各有侧重点:...原创 2018-09-02 16:50:08 · 30824 阅读 · 2 评论