cs231课程学习
文章平均质量分 73
fffupeng
只要你努力微笑,命运也会惧怕你的獠牙。
展开
-
lec5 训练神经网络1
训练网络之前必须知道,训练卷积网络需要一定的数据量。 finetuning 采用预训练的方式,然后用自己的数据训练网络的最后几层。 (可以将卷积层作为提取特征的固定网络,我们只需重新训练分类层就可以了,当然如果有一定的数据量可以训练较多的层) 如下图所示: 准备好数据集,网络模型之后可以开始训练网络。下降策略一般采用SGD(随机梯度下降) 训练步骤: 激活函数: 可以看下原创 2017-06-18 10:56:08 · 382 阅读 · 0 评论 -
lec4 反向传播和神经网络1
神经网络中如何前向和后向计算: 如下图: 反向传播时,使用链式法则,从后向前逐步更新权重。 下图是有激活函数的情况:原创 2017-06-18 10:51:02 · 224 阅读 · 0 评论 -
3 损失函数和优化
为了描述之前建立的线性分类器的分类效果,我们引入的损失函数,顾名思义,损失函数越大误差也就越大。 在下图的任务中,将测试图片猫、车和青蛙输入网络,输出了一系列的数值,如下表。 很显然我们希望图片对应的分类数值越高越好,例如猫的图片对应cat,但是数值只有3.2,还不如对应的car的数值,所以该线性分类器会将猫这张图片分类为car。 下面引入svm loss函数: 其中Sj和Sy原创 2017-06-07 20:42:37 · 2128 阅读 · 0 评论 -
lec6 训练神经网络2
参数的更新: 详见 http://blog.csdn.net/fffupeng/article/details/72771325 SGD:(沿着梯度负方向更新参数) 在上图中x方向的长度远大于其他方向,损失函数在水平方向上比较浅,在垂直方向上比较深。如上图,很明显下降的速度比较慢。 Momentum update: 动量更新不仅考虑了当前的动量-learning_rate原创 2017-06-18 21:30:57 · 317 阅读 · 0 评论 -
lec2 图像分类的方法
图像分类: 作业:(python代码) 1、knn 2、svm softmax 3、2层神经网络 图片分类 从以往经验来看目标需要在整个图像的中间,尽量占据较大的空间。 图像分类面对的挑战: 1、光照 2、物体形变 3、遮挡 4、目标和背景混淆 5、多个种类(外观有些许不同) 对于现在的机器学习的方法: 1、收集数据集 2、使用机器学习的方法训练分类器 3、原创 2017-06-06 23:00:45 · 431 阅读 · 0 评论 -
KNN和线性分类器
图像分类的困难和挑战:对于人来说,识别出一个像“猫”一样视觉概念是简单至极的,然而从计算机视觉算法的角度来看就值得深思了。我们在下面列举了计算机视觉算法在图像识别方面遇到的一些困难,要记住图像是以3维数组来表示的,数组中的元素是亮度值。 视角变化(Viewpoint variation):同一个物体,摄像机可以从多个角度来展现。 大小变化(Scale variation):物体可视原创 2017-05-19 00:03:14 · 2380 阅读 · 0 评论