谷雨·清明-CSDN博客

原创 cs231n学习笔记——六.Training Neural Networks 神经网络的训练

周末偷懒了w新的一周继续~这节课主要将训练神经网络，讲到训练不可避免的要讲的就是激活函数了6.1 激活函数放了几个用的比较多的首先是sigmoid，sigmoid激活函数有三个问题1）梯度消失，sigmoid函数只有0附近的极小区域能够有效的保留梯度2）sigmoid非零中心，这会导致训练效率比较低3）因为引入了exp（）的计算，计算代价比较大（当然和卷积相比无足轻重了）然后就有了tanhtanh解决了零对称的问题，但是依旧存在梯度消失的问题，所以引入了ReLUReLU在正值区

2020-12-28 00:00:57 600 1

原创 cs231n学习笔记——五.CNN 卷积神经网络

5.1 卷积神经网络简介要介绍CNN，TA选择从神经网络的历史开讲，从1957年的单层感知器讲起到1960年的多层感知器到1986年才明确出现反向传播的方法，然而这也只是个理论可行的方法，在实际应用中还是被打烂了头而直到2006年，深层网络才被验证是初步可训练和使用的，但是也很受限制，需要谨慎的进行初始化，当时是采用受限玻尔兹曼机进行预训练而直到2012年Hinton和他的学生Alex才使用DNN，分别在语音识别和图像识别领域做出了很惊艳的成果，而图像领域的成果就是早期的CNN，其极大的降

2020-12-11 17:43:21 303

原创 cs231n学习笔记——四.Introduction to Neural Networks 神经网络

嘛，照例跳过复习，开篇承接上节课，我们需要用解析梯度寻找权重矩阵的最优解，同时需要数值梯度验证，为了保证我们的解析式没算错，新的TA小姐姐给了一种叫计算图的方法将计算过程拆解成计算图是为了之后的反向传播做准备的，举例说明，通过前向计算获得中间值和结果，再根据根据链式法则，反向调整权重参数链式法则：是微积分中的求导法则，用于求一个复合函数的导数，是在微积分的求导运算中一种常用的方法。复合函数的导数将是构成复合这有限个函数在相应点的导数的乘积，就像锁链一样一环套一环，故称链式法则。——百度百科然

2020-12-11 15:26:59 232

原创 cs231n学习笔记——三.Loss Fuctions and Optimization 损失函数和优化

因为三个小时连看带值班带写笔记带摸鱼就学了个KNN，有点难受，再冲半节课吧，上来先是一波五分钟课程回顾，跳了跳了，然后衔接上节课的内容：权重矩阵的优劣应该如何评价，从而确定权重矩阵。这就引入了评价指标——损失函数和寻找最佳权重矩阵的过程——优化3.1 损失函数损失函数是用来告诉我们分类器的好坏的不是怎么SVM的损失函数直接就来了？？？我错过了啥？我心爱的KKT推导没听到啊...

2020-12-10 15:20:23 159

原创 cs231n学习笔记——二.Image Classifiction 图像分类

cs231n学习笔记——二.Image Classifiction昨天活多没时间好好看，今天开冲第二节课了，一看目录都是硬货呀1）KNN2）线性分类器：SVM，Softmax3）两层神经网络4）图像特质2.1 Image Classifiction——A Core Task in CV图像分类面临的问题：1）Sematic Gap 语义鸿沟2）Viewpoint Variation 视角变化3）Illumination 照度4）Deformation 变形5）Occlusion 遮

2020-12-09 16:49:31 212

原创 cs231n学习笔记——一.Introduction to CNN for Visual Recognition 视觉识别领域中的CNN简介

cs231n学习笔记——一.Introduction to CNN for Visual Recognition因为两年前是在国科大的相关课程学习这部分知识，最近出差难得有时间跟着cs231n的课程把内容再巩固一下，外场网络条件比较一般，选择的是b站的资源。视频链接: 斯坦福2017季CS231n深度视觉识别课程视频.第一节课主要是两部分，history和cs231n overview1.1 A Brief History of Computer Vision李女神的引入还是挺神奇的，从寒武纪的生命

2020-12-07 18:38:46 285

qq_34734252的博客

原创 cs231n学习笔记——六.Training Neural Networks 神经网络的训练

原创 cs231n学习笔记——五.CNN 卷积神经网络

原创 cs231n学习笔记——四.Introduction to Neural Networks 神经网络

原创 cs231n学习笔记——三.Loss Fuctions and Optimization 损失函数和优化

原创 cs231n学习笔记——二.Image Classifiction 图像分类

原创 cs231n学习笔记——一.Introduction to CNN for Visual Recognition 视觉识别领域中的CNN简介

原创 2020-09 CCF CSP模拟题（1&2） python3题解

原创【Python】使用CDS API下载ECMWF气候数据

原创模式识别与机器学习·第二章——统计判别

原创模式识别与机器学习·第一章——概论

空空如也

空空如也