- 博客(4)
- 收藏
- 关注
原创 深度学习常见的网络
leNET5层卷积层,卷积稀疏连接减少参数。卷积⽹络使⽤⼀个3层的序列组合:卷积、下采样(池化)、⾮线性映射(LeNet-5最重要的特性,奠定了⽬前深层卷积⽹络的基础)使⽤卷积提取空间特征使⽤映射的空间均值进⾏下采样使⽤ 或 进⾏⾮线性映射多层神经⽹络(MLP)作为最终的分类器层间的稀疏连接矩阵以避免巨⼤的计算开销AlexNET5层卷积层所有卷积层都使⽤ReLU作为⾮线性映射函数,使模型收敛速度更快在多个GPU上进⾏模型的训练,不但可以提⾼模型的训练速度,还能提升数据的使⽤规模使⽤
2021-11-22 17:16:50 1942
原创 深度学习常见超参数、调优手段以及作用
dropoutdropout层是表示这一层多少个神经元失效,主要是防止神经元、参数过多产生的过拟合,让模型更具有持久性和泛化能力,一般设置的参数值为0.5learnrate 与batchlearnrate 学习速率,一般根据batch的大小设置,batch越大,学习速度应设置的越大,学习速度大容易在最优值附近震荡,学习速度小可能拟合 不了loss降不下去。通常的思路为起初学习速率大一点,到后面逐渐减小学习速率。一般设置为10^-4 到 10^-3次方。学习速率相关策略:1、余铉退火大模型,在
2021-11-19 18:33:56 1703
原创 机器学习——数学基础(1)
一、数据类型1、标量⼀个标量表⽰⼀个单独的数,它不同于线性代数中研究的其他⼤部分对象(通常是多个数的数组)。我们⽤斜体表⽰标量。标量通常被赋予⼩写的变量名称。数据,也也看作0阶张量。具体表征为一个点 ,小写字母表示:如a2、向量有限数据构成的数组,可以看作一阶张量。具体表征为连续的线段。具有方向性。粗体字母表示,如a3、矩阵二维数组。可以看作是二阶张量。大写字母A表示。4、张量多维数组。...
2021-11-13 14:38:34 810
原创 yolo4
YOLOV4YOLOV4特点CIOU学习速率余铉退火Mosaic数据增强Label Smoothing平滑YOLOV4网络特点插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入YOLOV4特点YOLOV4在YOLOV3的基础上。有以下更新:CIOU、学习速率余铉退火、Mosaic数据增强、
2021-11-13 09:18:41 2160
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人