- 博客(41)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 DeepLearning:Train and Test Records on ResNet-18 Model
ResNet-18:Train and Test Records文章目录ResNet-18:Train and Test Records一、固定学习率1、LR=0.1 (SGD+M!!!)不同optim1.SGD实验1.1-SGD实验1.2-SGD+M=0.9实验1.3-SGD+M=0.9+weight_decay=1e-3实验1.4-SGD+M=0+Nestrrov=True实验1.5-SGD+M=0.9+Nesterov=True2.Adam实验1.6-Adam3.Adagrad实验1.7-Adagr
2021-11-20 13:45:51
2173
3
原创 DeepLearning:训练神经网络—学习率及BatchSize
训练神经网络—学习率及batchSize文章目录训练神经网络—学习率及batchSize1、学习率（Learning Rate）定义调整策略人工调整策略策略调整学习率固定学习率衰减分段减缓分数减缓指数减缓余弦周期减缓自适应学习率衰减Pytorch实现1.lr_scheduler.StepLR2.lr_scheduler.MultiStepLR3.lr_scheduler.ExponentialLR4.lr_scheduler.CosineAnnealingLR5.lr_scheduler.ReduceLR
2021-11-16 12:18:36
2580
原创 DeepLearning:训练神经网络—梯度下降优化器（optimizer）
训练神经网络—梯度下降优化器（optimizers）文章目录训练神经网络—梯度下降优化器（optimizers）1、optimizer简介定义分类一阶优化算法二阶优化算法优化器伪代码2、SGD（随机梯度下降）背景Q&A定义伪代码3、SGD+Momentum(SGD结合动量)定义公式示意图伪代码4、Nesterov Momentum（梯度加速法）背景定义公式示意图伪代码5、AdaGrad背景伪代码6、RMSProp(Leaky AdaGrad)背景伪代码7、Adam背景Adam(almost)Ada
2021-11-16 10:37:16
1235
原创 DeepLearning:训练神经网络—归一化(Normalization)
训练神经网络—Normalization文章目录训练神经网络—NormalizationNormalization出现背景Batch Normalization定义作用BatchNorm:Train-TimeBatchNorm:Test-TimeBatchNorm用于不同网络1.全连接网络中的BatchNorm2.卷积神经网络中的BatchNorm3.循环神经网络中的BatchNorm其它NormalizationInstance NormLayer NormGroup NormGroup NormNo
2021-11-15 18:51:40
971
原创 DeepLearning:训练神经网络—数据预处理及权重初始化
训练神经网络—数据预处理及权重初始化文章目录训练神经网络—数据预处理及权重初始化数据预处理（特征工程）1、Z-Score方法公式代码2、PCA主成分分析白化（Whitening）PCA白化ZCA白化总结数据标准化意义在CIFAR10上进行数据预处理权重初始化Q&A1、标准正态分布初始化2、Xavier初始化3、kaiming/MSRA 初始化总结数据预处理（特征工程） 由于我目前使用的数据集为公开数据集，很少涉及特征工程，不过在学习CS231N时还是学到了两个常见的特征工程方法，在此，
2021-11-15 16:40:52
1029
原创 DeepLearning:训练神经网络—激活函数的选择
训练神经网络—激活函数的选择文章目录训练神经网络—激活函数的选择1、Sigmoid函数Sigmoid函数表达式Sigmoid函数图像Sigmoid函数特点Sigmoid函数缺点2、双曲正切函数双曲正切函数表达式双曲正切函数图像双曲正切函数特点双曲正切函数缺点3、Relu函数及其变形Relu函数表达式Relu函数图像Relu函数特点Relu函数缺点**改进优化**增添偏置项Leaky ReluPRelu**RRelu**ERelu4、MaxoutMaxout表达式Maxout函数示意图（k=2）Maxout
2021-11-15 13:35:31
178
原创 DeepLearing:GAN生成式对抗网络
GAN 生成对抗网络一、介绍 GAN这一概念是由Lan Goodfellow于2014年提出，GAN被深度学习先驱之一的Yann LeCun称为“数十年来机器学习领域最有趣的想法。”原始GAN论文的链接为：https://link.zhihu.com/?target=https%3A//arxiv.org/pdf/1406.2661.pdf 我们知道CNN、RNN是通过建立图像与输出之间的关系来判断结果的一种网络映射。而GAN却是通过利用毫无意义的随机数据凭空捏造结果而非建立数据与输入映射关系..
2021-11-11 19:16:35
3809
原创 DeepLearing:CIFAR10数据集介绍
CIFAR-10数据集介绍 由于最近几周老师让自己跑的都是CIFAR10数据集所以就大概了解了一下该数据集，记录一下。简介 CIFAR10数据及是由Alex Krizhevsky, Vinod Nair, and Geoffrey Hinton教授收集整理成的，这是一个适用于普适物体识别的计算机视觉数据集。数据集下载地址https://www.cs.toronto.edu/~kriz/cifar.html特点数据集组成 该数据是从真实自然界中收集而来的，主要来自google和各类搜索引
2021-11-11 14:58:59
2456
原创 Paper2:VGG Notes
Paper2:VGG Notes 本模型源于论文：《Very Deep Convolutional Networks for Large-Scale Image Recognition》背景 VGG名字是由牛津大学（Oxford）的Visual Geometry Group组提出的。VGG在2014年的ImageNet分类竞赛中获得了亚军（分类冠军是 GoogleNet），定位竞赛中获得了冠军，虽然在分类竞赛中获得了亚军，但其影响力一点也不低于冠军GoogleNet。该模型简洁，将常规、经典、续贯
2021-11-11 13:02:06
2175
原创 DeepLearning:使用Pytorch搭建神经网络
使用Pytorch搭建神经网络nn.Moudlenn.Moudle含义 nn.Moudle是所有神经网络模型的父类，我们自己定义的模型应当是nn.Moudle的子类，在我们编写自己的模型时，务必要记得继承该类。同时，我们必须重写init方法与forward前向传播方法，以完成我们自己的网络。代码实战import torch.nn as nnimport torch.nn.functional as Fclass Model(nn.Module): def __init__(self
2021-11-09 15:24:44
1621
原创 DeepLearing:在Pytorch中保存与调用模型
CV-模型的保存与读取调用我在ComputerVisionModels中的basicknowledge文件夹下新建了一个Save&UseNet子文件夹，本节相关代码放入其中，具体GitHub源码地址：github.com/RP0929/模型的保存 在使用神经网络进行训练时，我们需要把好的结果及那一轮的参数保存下来，因此模型的保存十分重要。模型的保存有不同的方式： 首先创建model_save.py文件，导入相关包： .
2021-11-05 22:39:19
574
原创 Papper1:ResNet Notes
ResNet Notes1、本篇论文的背景：这篇文章是2016年CVPR的最佳论文，作者是来自微软亚洲研究院的何恺明，张祥雨，任少卿和孙剑。这篇论文题目是《Deep Residual Learning for Image Recognition(用于图像识别的深度残差学习)》，文章中提到的深度残差网络ResNet在2015年ImageNet和CoCo两个竞赛的五个赛道中都获得了冠军。2、ResNet主要解决的核心问题是网络退化和训练问题，主要解决办法是引入了残差模块。在文章中，没有引入残差模块的..
2021-10-22 17:53:44
448
原创 2022双非保研经历
之所以写这个，是因为保研路上，对我帮助最大的就是有关夏令营、预推免发布的公众号和CSDN往届保研经验贴，我希望未来学弟学妹们少走弯路，多些坦途，就同样将自己的经历分享下来。一、个人情况：学历：某中部双非成绩：综合排名1/363、GPA（3.81/4）学生工作：年级长（前两年比较忙，大三这一年多亏了兄弟mhy!!!）项目：大一参加了国家级大创（负责部分前端，学了layui），大二软件工程课作为组长认认真真做了一个JavaWeb项目(用的是mysql、jsp和servlet，技术老旧)，大三
2021-09-29 13:31:30
7992
16
原创 Python第六章 字典
字典的定义和访问1、字典的定义和访问字典就是键值对的集合。 定义集合要使用花括号{}xName = { key:value,key:value }xName我们自己定义key可以是数字或者字符串类型（也可以是布尔类型）value可以是任意类型的数据代码段1：# 字典的定义：键值对stu = {'name':'马瑞鹏','age':20,'gender':'男'}# 字典的使用print(stu['name'])print(stu['age'])print
2020-07-24 20:34:01
562
原创 Python第五章 If语句
If语句的简单示例if语句的简单示例需求：判断年龄是否大于40，如果大于40，软件进入老年版，如果小于等于40，进去青年版代码段1：age = 34if age>40 : print("进入老年版本")else: print("进入青年版")运行结果：进入青年版三个知识点：1、比较运算符 2、布尔类型（布尔表达式） 3、ifelse语句2、比较运算符和布尔类型1.比较两个数据是否满足条件> >=<...
2020-07-18 19:25:38
472
原创 Python第四章 列表（下）
列表其他操作for循环遍历列表在Python中遍历打印(for循环)的格式为 for temp in list:print(temp)temp是一个临时变量，它相当于一个助理，助理会一个一个把我们需要的数据拿过来让我们处理。(缩进的语句认为是要循环执行的语句)代码段1：names =["maruipeng","sunchangxuan","chenyijie","chenyijie","LiZheRui"]#列表的遍历 循环体for name in names:...
2020-07-15 18:06:35
233
原创 Python第四章 列表（上）
列表如何定义一个列表代码段1： student1 = "maruipeng" student2 = "sunchangxuan" student3 = "chenyijie" student4 = "LiZheRui" names =["maruipeng","sunchangxuan","chenyijie","LiZheRui"] print(names) names2 = [student1,student2,student3,stude
2020-07-14 23:22:21
823
原创 Python第三章 简单数据类型-数字类型
1、整数和浮点数（小数）代码段1：#整数编写res1 = 3+3res2 = 5-9res3 = 8*2res4 = 4/3res5 = 4//3#只保留除法结果的整数部分res6 = 7%3res7 = 4**3#次方运算 与solidity相同print(res1)print(res2)print(res3)print(res4)print(res5)print(res6)print(res7)运行结果：6-4161.
2020-07-12 20:18:28
198
原创 Python第二章 简单数据类型-字符串
什么是数据类型？计算机中的数据是什么？QQ：聊天的文字（字符）发布的说说文字（字符）年龄（数字）数字和字符是重要的数据。计算机程序就是用来处理数据的同样Python编写的程序也是用来处理数据的。什么是数据类型？把不同类型的数据进行划分，就是使用数据类型。目前：数字类型 字符类型 字符串类型什么是变量？引入变量的作用当需要重复使用某一个数据的时候M=””Print(m)Print(m)Print(“m”)当需要存储一个需要变化的数据的时候（游.
2020-07-11 20:23:20
246
原创 区块链——Solidity智能合约基础实战（七）
区块链——Solidity智能合约基础实战（七） 动态字节数组动态字节数组与静态字节数组的区别在于是否能修改数组的长度及内容代码段1: pragma solidity ^0.4.0; contract DynamicByte{ ...
2020-07-09 21:29:22
318
原创 区块链——Solidity智能合约基础实战（六）
区块链——Solidity智能合约基础实战（六） 固定长度字节数组由于位是计算机内最小的储存单元，字节是对位的封装，一个字节为8位在固定长度字节数组中，关键字有：bytes1，bytes2,bytes3,…，bytes32(以步长1递增)Bytes在内存中和nint本质一样，byt...
2020-07-09 21:27:53
431
1
原创 区块链——Solidity智能合约基础实战（五）
区块链——Solidity智能合约基础实战（五） 危险的整数溢出以及异常处理代码段1： function flow() view public returns(uint){ uint8 mm = 255; return mm; }...
2020-07-09 21:25:58
290
原创 区块链——Solidity智能合约基础实战（四）
区块链——Solidity智能合约基础实战（四） 底层位运算位运算的操作有6个，分别是&(与)、|（或）、~（非）、^（异或操作，相同为0，不同为1）、<<、>> 操作数1 0 0 ...
2020-07-09 21:24:25
231
原创 区块链——Solidity智能合约基础实战（三）
区块链——Solidity智能合约基础实战（三） Pure与View的差别整型特性与运算在Solidity中有两种定义整数的方式：int（可正可负） uint（正数），之所以有区分，是防止在Solidity以太坊中要严格限制资源的耗费情况。Int默认为int256 uint...
2020-07-09 21:22:47
289
原创 区块链——Solidity智能合约基础实战（二）
区块链——Solidity智能合约基础实战（二） Boolean及与、或、非新建.sol文件，命名为Boolean.sol 编写合约 pragma solidity ^0.4.0; contract BooleanTest{ bool _a;...
2020-07-09 21:20:47
338
原创 区块链——Solidity智能合约基础实战（一）
区块链——Solidity智能合约基础实战（一） Pure与View的差别首先学会使用区块链solidity在线编译工具Remix在线编译器地址： https://remix.ethereum.org 注意：现阶段的任何时候，打开编译器的第一步就是写上头文件...
2020-07-09 21:17:38
977
1
原创 Android_U6_内容提供者作业实现思路
提示：看这个之前需掌握Android_U5作业实现思路准备工作同第五章，创建布局文件，修改主题，修改清单文件中本Activity的Label名称。在Android应用里创建并注册内容提供者Android支持任何应用创建自己的ContentProvider,以便将数据提供给其他应用程序。首先，定义继承ContentProvider的子类并实现CRUD。创建内容提供者MyDbProvider及应用的Uri 本次作业采用的Uri为包名com.example.homework6使用...
2020-05-29 18:13:07
210
原创 Android_U5_UI进阶作业实现思路
Android_U5_UI进阶作业实现思路使用DAO的方式访问数据库这次作业可以参考课本P158页的例子，实现起来也比课本习题简单，先按照SimpleAdapter实现试试，看看能否完成老师要求效果： 自己实现的效果:准备工作：改变这个安卓应用主题、编写xml布局打开清单文件修改主题和标题 <manifest xmlns:android="http://schemas.android.com/apk/res...
2020-05-22 22:52:10
242
原创 JavaWeb01
写在前面：希望通过每次学习的记录能够完成这个项目！加油！2月17日商品管理案例及其优化：<body><h1>商品管理</h1><hr><a>添加</a><table border="1"> <tr> <td>商品名</td&g...
2020-05-09 23:17:21
129
原创 Android SimpleAdapter学习反思
通过List数组（Map泛型）创建数据源，建议通过自定义getdata()返回list集合使代码易读private List<Map<String,Object>> getdata(){ List<Map<String,Object>> list = new ArrayList<Map<String, Object>>(); Map<String,Object> map = new HashMap...
2020-05-09 23:16:57
132
原创 计算机组成原理 第4章测试题错题整理
第四单元磁盘属于直接存取存储器（磁盘是直接存取,磁带是顺序存取） 某计算机系统，其操作系统保存在硬盘上，其内存储器应该采用RAM和ROM操作系统保存在硬盘上，开机时，首先将操作系统引导到主存中，引导程序通常存放在ROM中。主存中的程序运行时，需要进行读写操作，应该采用RAM。DRAM的刷新是以行为单位的 DRAM采用分散刷新不存在死时间 EPROM是可擦除可编程的只读存储器．可以反...
2020-05-04 22:00:15
8384
2
原创 蓝桥杯2020年校内模拟赛题目整理（上）
今天看了2020年校内模拟赛的讲解视频（前半部分），把自己觉得比较好的记录一下，其实最终还是理解官方的讲解博客。4.25日4.题目：在1至2019（注意起始）中，有多少个数的数位中包含数字9？注意，有的数中的数位中包含多个9，这个数只算一次。例如，1999这个数包含数字9，在计算时只是算一个数。结果为1个整数解：自己当时的代码：public class T3 {...
2020-04-25 12:26:17
2276
原创 Android_U4_数据存储作业实现思路
作业一：准备工作：打开虚拟机，创建新的作业工程第一步：完成布局分析主题（黑色 DayNight.DarkActionBar）和标题（SaveInFile） 所有的string资源文件编写 整体用线性布局，里面有垂直的5行（1垂直、4水平）正在上传…重新上传取消第二步：完成Internal存储为button添加click事件，为其创建方法获取两个EditText，并...
2020-04-20 08:57:00
253
2
原创 SSM学习之Mybatis(一)
SSM框架学习线路第一部分：使用Mybatis取代JDBC、dbutils等原始方法操作数据库； 学习Spring框架理解IOC、AOP思想，使用Spring来管理对象、事务； 学习SpringMVC框架取代Servlet技术，整合三大框架，完成案例MyBatis是什么？MyBatis 是支持定制化 SQL、存储过程以及高级映射的优秀的持久层框架。MyBatis 避免了几乎所有的 J...
2020-02-25 00:14:18
137
原创 计算机组成原理 随笔
第1章 计算机系统概论计算机导论知识回顾：1、存储器金字塔从上到下依次是：寄存器、缓存、主存、磁盘、光盘、磁带USB是通用串行总线2^64=2^4*2^60=16*10^?回顾：K是2的10次方 10^3M是2的20次方 2^10×2^10=1024×1024=10^3×10^3=10^6G是2的30次方 2^10×2^10×2^10=10^9...
2020-02-23 19:53:35
245
原创 计算机组成原理 第一章计算机系统概述
计算机系统概论描述计算机系统的层次结构?系统软件的分类和一些实例?Tips:判断是否是系统软件和应用软件首先需要从是否管理硬件的角度出发，大致分为以下几类冯·诺依曼计算机的特点?(6条)计算机由五大部件组成 指令和数据以同等地位存于存储器，可按地址寻访（思考如何存储器区分指令和数据？指令周期的不同阶段） 指令和数据用二进制表示 指令由操作码和地址码组成 指令在存储器内按...
2020-02-23 19:52:37
513
原创 JavaWeb过滤器
过滤器1、配置过滤器@WebFilter("/Login.jsp")@WebFilter("/*")2、在web.xml中配置 突然发现自己没有掌握Web.xml的使用方法，不理解，所以百度了一下1. xml文件xml文件：Extentsible Markup Language即可扩展标记语言，是用来定义其它语言的一种元语言，其前身是SGML(标准通用标记语言)。...
2020-02-21 01:42:11
164
原创 Ajax学习过程中的坑
今天看了B站上的Ajax视频，在自己动手实现的过程中发现了一些问题，所以特来记录总结：首先想使用Ajax必须要使用jQuery，那么就需要导入jQuery,使用Vue导入Vue先来看看Ajax的代码吧！$.get({ url:"${pageContext.request.contextPath}/AjaxServlet", cache...
2020-02-19 23:23:51
97
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人