自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(10)
  • 收藏
  • 关注

原创 cs231n学习笔记——六.Training Neural Networks 神经网络的训练

周末偷懒了w新的一周继续~这节课主要将训练神经网络,讲到训练不可避免的要讲的就是激活函数了6.1 激活函数放了几个用的比较多的首先是sigmoid,sigmoid激活函数有三个问题1)梯度消失,sigmoid函数只有0附近的极小区域能够有效的保留梯度2)sigmoid非零中心,这会导致训练效率比较低3)因为引入了exp()的计算,计算代价比较大(当然和卷积相比无足轻重了)然后就有了tanhtanh解决了零对称的问题,但是依旧存在梯度消失的问题,所以引入了ReLUReLU在正值区

2020-12-28 00:00:57 599 1

原创 cs231n学习笔记——五.CNN 卷积神经网络

5.1 卷积神经网络简介要介绍CNN,TA选择从神经网络的历史开讲,从1957年的单层感知器讲起到1960年的多层感知器到1986年才明确出现反向传播的方法,然而这也只是个理论可行的方法,在实际应用中还是被打烂了头而直到2006年,深层网络才被验证是初步可训练和使用的,但是也很受限制,需要谨慎的进行初始化,当时是采用受限玻尔兹曼机进行预训练而直到2012年Hinton和他的学生Alex才使用DNN,分别在语音识别和图像识别领域做出了很惊艳的成果,而图像领域的成果就是早期的CNN,其极大的降

2020-12-11 17:43:21 301

原创 cs231n学习笔记——四.Introduction to Neural Networks 神经网络

嘛,照例跳过复习,开篇承接上节课,我们需要用解析梯度寻找权重矩阵的最优解,同时需要数值梯度验证,为了保证我们的解析式没算错,新的TA小姐姐给了一种叫计算图的方法将计算过程拆解成计算图是为了之后的反向传播做准备的,举例说明,通过前向计算获得中间值和结果,再根据根据链式法则,反向调整权重参数链式法则:是微积分中的求导法则,用于求一个复合函数的导数,是在微积分的求导运算中一种常用的方法。复合函数的导数将是构成复合这有限个函数在相应点的 导数的乘积,就像锁链一样一环套一环,故称链式法则。——百度百科然

2020-12-11 15:26:59 231

原创 cs231n学习笔记——三.Loss Fuctions and Optimization 损失函数和优化

因为三个小时连看带值班带写笔记带摸鱼 就学了个KNN,有点难受,再冲半节课吧,上来先是一波五分钟课程回顾,跳了跳了,然后衔接上节课的内容:权重矩阵的优劣应该如何评价,从而确定权重矩阵。这就引入了评价指标——损失函数和寻找最佳权重矩阵的过程——优化3.1 损失函数损失函数是用来告诉我们分类器的好坏的不是怎么SVM的损失函数直接就来了???我错过了啥?我心爱的KKT推导没听到啊...

2020-12-10 15:20:23 159

原创 cs231n学习笔记——二.Image Classifiction 图像分类

cs231n学习笔记——二.Image Classifiction昨天活多没时间好好看,今天开冲第二节课了,一看目录都是硬货呀1)KNN2)线性分类器:SVM,Softmax3)两层神经网络4)图像特质2.1 Image Classifiction——A Core Task in CV图像分类面临的问题:1)Sematic Gap 语义鸿沟2)Viewpoint Variation 视角变化3)Illumination 照度4)Deformation 变形5)Occlusion 遮

2020-12-09 16:49:31 210

原创 cs231n学习笔记——一.Introduction to CNN for Visual Recognition 视觉识别领域中的CNN简介

cs231n学习笔记——一.Introduction to CNN for Visual Recognition因为两年前是在国科大的相关课程学习这部分知识,最近出差难得有时间跟着cs231n的课程把内容再巩固一下,外场网络条件比较一般,选择的是b站的资源。视频链接: 斯坦福2017季CS231n深度视觉识别课程视频.第一节课主要是两部分,history和cs231n overview1.1 A Brief History of Computer Vision李女神的引入还是挺神奇的,从寒武纪的生命

2020-12-07 18:38:46 282

原创 2020-09 CCF CSP模拟题(1&2) python3题解

2020-09 CCF模拟题 python3题解最近需要做一点

2020-10-22 14:58:06 490

原创 【Python】使用CDS API下载ECMWF气候数据

【Python】使用CDS API下载ECMWF气候数据数据集简介ECMWF是欧洲中期天气预报中心,他们的ERA模型提供全球的气象再分析和预报数据,最新的数据集是2018年发布的ERA5,从使用角度来讲要比国内的和美国的方便一点,着实好人hhh。官方教程地址,不用翻墙~.具体操作行了英文觉得费劲就别看官方教程了,看我吧~在EC或者哥白尼官网注册都行,注册完登录,在这个 链接.能找到上图的两行,复制,贴到一个新建文本文档里面,文件重命名为.cdsapirc,放到C:\ Users \ Use

2020-09-24 20:02:12 10511 41

原创 模式识别与机器学习·第二章——统计判别

模式识别与机器学习·第二章——统计判别统计判别的意义贝叶斯判别贝叶斯最小风险判别两类(M=2)情况的贝叶斯最小风险判别多类(M类)情况的贝叶斯最小风险判别正态分布模式的贝叶斯分类器统计判别的意义模式识别的目的就是要确定某一个给定的模式样本属于哪一类。可以通过对被识别对象的多次观察和测量,构成特征向量,并将其作为某一个判决规则的输入,按此规则来对样本进行分类。在获取模式的观测值时,有些事物具...

2019-07-17 10:49:01 870 2

原创 模式识别与机器学习·第一章——概论

模式识别与机器学习·第一章——概论开篇模式识别模式识别机器学习研究目的发展历史模式识别简史机器学习简史系统方法系统目标假说的获得系统的构成小结开篇这系列博客主要用来回忆研一的模式识别与机器学习课程的相关内容,大概有十几篇吧,估计需要一个很长的周期来整理,整完的部分目录如下,我也会逐步添加:第一章·概论第二章·模式识别模式模式识别,目标对象自然是模式了,课程给出的模式定义如下:...

2019-07-11 16:01:13 971

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除