- 博客(19)
- 收藏
- 关注
RSS订阅原创 动手学（4）
批量归一化（BatchNormalization）对输入的标准化（浅层模型）处理后的任意一个特征在数据集中所有样本上的均值为0、标准差为1。标准化处理输入数据使各个特征的分布相近批量归一化（深度模型）利用小批量上的均值和标准差，不断调整神经网络中间输出，从而使整个神经网络在各层的中间输出的数值更稳定。1.对全连接层做批量归一化位置：全连接层中的仿射变换和激活函数之间。2.对卷积层...
2020-02-26 00:47:08
213
原创 动手学(3)
循环神经网络循环神经网络的构造one-hot向量裁剪梯度困惑度我们通常使用困惑度（perplexity）来评价语言模型的好坏。困惑度是对交叉熵损失函数做指数运算后得到的值。特别地，最佳情况下，模型总是把标签类别的概率预测为1，此时困惑度为1；最坏情况下，模型总是把标签类别的概率预测为0，此时困惑度为正无穷；基线情况下，模型总是预测所有类别的概率都相同，此时困惑度为类别个数。...
2020-02-19 00:07:12
222
原创 动手学（2）
模型选择、过拟合和欠拟合训练误差和泛化误差训练误差（training error）指模型在训练数据集上表现出的误差，泛化误差（generalization error）指模型在任意一个测试数据样本上表现出的误差的期望，并常常通过测试数据集上的误差来近似。机器学习模型应关注降低泛化误差。模型选择验证数据集从严格意义上讲，测试集只能在所有超参数和模型参数选定后使用一次。 不可以使用测试...
2020-02-18 21:16:38
376
原创 动手深度学习（1）
（1）假如你正在实现一个全连接层，全连接层的输入形状是7×8，输出形状是7×1，其中7是批量大小，则权重参数ww和偏置参数bb的形状分别是8x1和1x1.。（2）课程中的损失函数定义为：def squared_loss(y_hat, y):return (y_hat - y.view(y_hat.size())) ** 2 / 2将返回结果替换为下面的哪一个会导致会导致模型无法训...
2020-02-14 20:24:44
215
原创 Inception网络
inception网络inception介绍ResNet 为了使网络更深，Inception 可以让神经网络为了更宽。Inception 在不增加计算成本的前提下扩展神经网络的一种方案。Inception 最早的论文关注的是一种用于深度网络的新型构建模块，现在这一模块被称为「Inception module」。其核心模块源自两种思想见解的交汇。第一个见解与对层的操作有关。在传统的卷积网络中...
2019-08-04 16:18:14
321
原创 Lenet5和VGG16介绍
Lenet5和VGG16Lenet5LeNet-5共有7层，不包含输入，每层都包含可训练参数；每个层有多个Feature Map，每个FeatureMap通过一种卷积滤波器提取输入的一种特征，然后每个FeatureMap有多个神经元。各层参数详解：1、INPUT层-输入层首先是数据 INPUT 层，输入图像的尺寸统一归一化为3232。注意：本层不算LeNet-5的网络结构，传统上，不...
2019-07-21 21:51:36
1284
原创 递归
递归三大定律● 所有递归算法必须具备基本结束条件。● 递归算法必须要减小规模，改变状态，向基本结束条件演进。● 递归算法必须调用自身（递归地）。● 某些情况下，递归可以代替迭代循环。● 递归算法通常能够跟所要解决的问题的表述很自然地契合。● 递归不总是最合适的算法，有时候递归算法可能会引发巨量的重复计算。基本结束条件是一种可以让算法的递归操作结束的...
2019-07-10 10:48:30
145
转载 计算机视觉五大技术
计算机视觉五大技术文章来源：企鹅号 - AI火箭营计算机视觉五大技术 - 云+社区 - 腾讯云当前计算机视觉是深度学习领域最热门的研究领域之一。计算机视觉实际上是一个跨领域的交叉学科，包括计算机科学（图形、算法、理论、系统、体系结构），数学（信息检索、机器学习），工程学（机器人、语音、自然语言处理、图像处理），物理学（光学 ），生物学（神经科学）和心理学（认知科学）等等。许多科学家认为，计算机...
2019-07-07 16:36:56
24783
2
原创 梯度下降算法
梯度下降算法训练神经网络流程: <1>获得数据； <2>通过计算图前向传播，获得loss； <3>反向传播计算梯度，这个梯度能告诉我们如何去调整权重，最终能够更好的分类图片； <4>用计算出的梯度去更新参数梯度下降算法是深度学习中使用非常广泛的优化算法，也是众多机器学习算法中最常用的优化方法。几乎当前每一个先进的(state-of-the...
2019-06-30 15:49:31
706
原创 神经网络细节
神经网络细节一、激活函数（Activation Function） * Sigmoid sigmoid函数又被称为挤压函数，取值为[0,1]之间的实数。同时，sigmoid存在3个问题： （1）一个饱和的神经元（Saturated neurons），即神经元的输出要么非常接近1要么非常接近0。这类神经元会导致在反向传播算法中出现梯度趋0的问题，叫做梯度消失。sigmoid函数计算...
2019-06-30 15:37:21
516
原创 pandas匹配特定值索引选取多行数据
df.iloc[i]返回df的第i行。 i不引用索引标签，i是从0开始的索引。相反，属性index返回实际的索引标签，而不是数字row-indices：df.index[df['BoolCol'] == True].tolist()或者等同地，df.index[df['BoolCol']].tolist()使用extend的时候，是将new_media看作一个序列，将这个序列和mu...
2019-06-26 23:39:26
6612
原创 求区间素数的埃拉托斯特尼筛法
题目描述输入M、N，1 < M < N < 1000000，求区间[M,N]内的所有素数的个数。素数定义：除了1以外，只能被1和自己整除的自然数称为素数输入描述:两个整数M，N输出描述:区间内素数的个数使用埃拉托斯特尼筛法基本思想：素数的倍数一定不是素数实现方法：用一个长度为N+1的数组保存信息（0表示素数，1表示非素数），先假设所有的数都是素数（初始化为0），...
2019-06-06 16:52:40
572
原创 mysql学习笔记(4)
4.1 MySQL 实战学习内容数据导入导出将之前创建的任意一张MySQL表导出,且是CSV格式关于csv文件，navicat for mysql中不包含cav文件的格式。尝试用MySQL workbench，可以导出csv文件。再将CSV表导入数据库作业项目七: 各部门工资最高的员工（难度：中等）创建Employee 表，包含所有员工信息，每个员工有其对应的 Id, s...
2019-04-05 20:34:22
138
原创 mysql学习笔记(3)
1. MySQL表数据类型MySQL 数据类型MySQL中定义数据字段的类型对你数据库的优化是非常重要的。MySQL支持多种类型，大致可以分为三类：数值、日期/时间和字符串(字符)类型。数值类型MySQL支持所有标准SQL数值数据类型。这些类型包括严格数值数据类型(INTEGER、SMALLINT、DECIMAL和NUMERIC)，以及近似数值数据类型(FLOAT、REAL和DOUBL...
2019-04-03 18:48:47
240
原创 mysql学习笔记(2)
导入sql文件用Navicat for Mysql导入.sql文件 - 路修远而求索 - 博客园 如果右键刷新失败，则用F5刷新，就会显示成功。常用语句SQL是一种用于操作数据库的语言。SQL是用于所有数据库的基本语言。不同数据库之间存在较小的语法更改，但基本的SQL语法基本保持不变。SQL是Structured Q uery Language 的简短缩写。根据ANSI（美国国家标准协...
2019-04-01 10:18:17
881
1
原创 mysql学习笔记（1）
数据库基础知识数据库定义：简而言之可视为电子化的文件柜——存储电子文件的处所，用户可以对文件中的数据进行新增、截取、更新、删除等操作。所谓“数据库”是以一定方式储存在一起、能与多个用户共享、具有尽可能小的冗余度、与应用程序彼此独立的数据集合。关系型数据库:关系数据库，是建立在关系模型基础上的数据库，借助于集合代数等数学概念和方法来处理数据库中的数据。现实世界中的各种实体以及实体之间的各种...
2019-03-31 16:37:25
121
转载 奇异值分解（SVD）原理
文章来自奇异值分解（SVD）原理 - JackGao的博客 - CSDN博客 奇异值分解是一个有着很明显的物理意义的一种方法，它可以将一个比较复杂的矩阵用更小更简单的几个子矩阵的相乘来表示，这些小矩阵描述的是矩阵的重要的特性。就像是描述一个人一样，给别人描述说这个人长得浓眉大眼，方脸，络腮胡，而且带个黑框...
2019-03-28 11:21:15
999
原创 “达观杯”文本智能处理挑战赛练习
这里写自定义目录标题记录一下项目练习过程比赛提供的数据读取数据合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入记录一下项目练习过...
2019-03-01 19:48:50
783
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人