- 博客(21)
- 收藏
- 关注
RSS订阅
1原创 VScode安装c++
参考的网站https://www.zhihu.com/question/30315894https://blog.csdn.net/weixin_44718794/article/details/106751513https://blog.csdn.net/weixin_50405454/article/details/114898358其中注意的是：535846919)]
2021-12-15 10:37:53
790
原创 HTML详解
网页基本标签<!DOCTYPE html><html lang="en"><head> <meta charset="UTF-8"> <title>基本标签学习</title></head><body><!--标题标签--><h1> 一级标签</h1><h2>二级标签</h2><h3>三级标签</h..
2021-08-20 15:47:32
159
原创 [10]Recurrent Neural Networks—循环神经网络
文章目录循环神经网络时间反向传播计算机视觉注意力模型多层循环神经网络LSTM(Long Short Term Memory)其他RNN架构变形总结循环神经网络输入输出变得比较自由将输出的状态每一个时间步内重新输入函数，比如以下RNN有两种方式。一个是具有隐藏状态的概念，它会反复地反馈给自己。在语言建模的问题中，一般用RNN时间反向传播对莎士比亚文章进行RNN训练，会自动生成类似他写的文章计算机视觉注意力模型多层循环神经网络L
2021-07-22 11:36:34
239
原创 [9]CNN Architectures—CNN架构
文章目录LeNet-5AlexNetZFNetVGGNetGoogleNetResNet (残差网络)比较一些别的架构总结LeNet-5第一次用CNN来做手写体识别，网络比较浅，只有5层。AlexNet其在LeNet上做了一些改进，同时由于当时GPU容量不足，其特征图的前向计算和梯度的反向传播是在两张GPU上并行进行的。其获得了2012年的ImageNet的冠军ZFNet其在AlexNet上做了一些超参数的优化，但是主要结构还是类似的，获得了2013年的ImageNet的冠军
2021-07-22 11:36:01
434
原创 [8]Deep Learning Software-深度学习软件
前言现在深度学习框架发展的太快了（文中的有些代码已经发生了些许变化），本文主要记录课中讲的关于 Pytorch、Caffe 和 TensorFlow 的内。重点是Pytorch。在之前的理论课上，我们知道，要完成神经网络的训练，我们最好是画出网络的计算图，然后理清其前向传播和反向传播过程。同时，要考虑底层实现的优化，比如数据的并行加载、网络的并行训练、GPU并行计算等。而神经网络框架让这些工作变得简单了很多：而现在框架实现的一个基本目标就是：像Numpy一样的编写前向传播，并能够通过 计算图 自动计
2021-07-22 11:35:07
596
原创 [7]Training Neural Network(2)—训练神经网络
课堂问答A0: 下面关于优化算法的比较应该都是以凸优化问题举例的。Q1： 带有动量的SGD怎么处理不好的梯度方向？Q2: Dropout层在哪里使用？A2: 一般在全连接层后面添加DP使得某些神经元失活，当然也可以在卷积层后面添加，但是具体的做法使使得部分卷积核得到的激活图（activation map）置0.Q3: Dropout 对于梯度的回传有什么影响？A3: Dropout 使得梯度回传仅发生在部分神经元，使得我们的训练更加缓慢，但是最后的鲁棒性更佳。Q4: 一般，我们采用几种正则化
2021-07-22 11:34:40
319
原创 [6]Training Neural Network—训练神经网络
激活函数在-10和10 时候导数会变成接近0不为0为中心,如果都是输入都是正或者都是负，w会一直向最优的更新，但是需要很多次，如蓝色的图十分低效，陷入导数更新的问题正无穷输入不会饱和，导数不会为0，计算的效率很快负半部分还是饱和的，有一半的导数没意义了。并且不是0为中心数据预处理一般将数据归零化，标准化在机器学习中，可能有更复杂的东西，比如pca（主成分分析）或者白化，但同样对于图像，我们通常只坚持零均值，我们不做标准化，也不做更复杂的预处理，因为我们并不真正想要获取所
2021-07-22 11:34:02
675
原创 [5]Convolutional Neural Networks—卷积神经网络
文章目录历史卷积神经网络全连接层卷积层例子池化层历史卷积神经网络全连接层卷积层卷积层需要保留结构例子卷积就是信号相关性步长stride变为2边界0填充每个过滤器都将在输入体积的整个深度进行点积，每个过滤器都会产生一个数字。所以输出的深度将是我们拥有的过滤器数量，如果输入是3D的，滤波盒也是3D的不进行填充，图片会变小池化层池化就是下采样（降低采样）。注意:池化是没有重叠的区域的，直接滑倒下个区域最大池化:只取该区域输入的最大值，
2021-07-07 21:44:33
176
原创 [4]Backpropagation and Neural Networks—反向传播和神经网络
文章目录回顾计算图反向传播算法标量反向流模式向量神经网络回顾计算图反向传播算法标量微积分的链式求导简而概之，我们能通过知道z对x的偏导，以及上游的L对z的偏导，推理出L对x的偏导 后面看成一个复合函数反向流模式向量迭代实现前向和后向传播基本都是模块化的he总结，这是神经网络的核心技术使用反向传播来获得导数，是链式法则的递归应用，从后面开始，然后倒退，通过他来计算关于所有中间变量的导数，在前向传递中，我们想要计算操作的结果，并且会保存我们
2021-07-07 16:00:50
231
原创 [3]Loss Functions and Optimization—损失函数和优化
文章目录回顾上节课损失函数svm问题1：为何损失函数选择了加1Softmax Classifier优化Optimization图像特征回顾上节课损失函数svm如果正确类别的分数高于错误类别的分数，则我们称之为0损失计算案例代表我们的分类器在这个数据集上的损失是5.27问题1：为何损失函数选择了加1答:实际上我们并不关心分数的绝对值。在这个函数中，我们只关注分数之间的相对差异，我们只关注正确类别的分数要远大于错误的类别的分数，所以事实上如果你把你整个W放大或缩小，那么它会相
2021-07-02 15:20:42
302
原创 [JAVA-4]方法和数组
文章目录Scanner对象JAVA的方法何谓方法方法的定义和使用方法重载命令行传参可变传参递归数组数组声明创建内存分析数组初始化数组特点数组使用Arrays类稀疏数组Scanner对象package com.t;import java.util.Scanner;public class test { public static void main(String[] args) { //创建一个扫描器对象，用于接受键盘数据 Scanner scanner
2021-06-01 17:40:59
479
原创 [2]image Classification pipeline-图像分类
image Classification pipeline-图像分类没有一个具体函数，不能像下图一样这关键的不是输入一张图来分辨它是不是猫，而是输入一张图分辨它是什么。去预测它是什么。Neasrest NeighborL1曼哈顿距离缺点：我们在进行训练的时候是快的O(1)，只需要算一轮，但是在预测的时候是很慢的O(n)卷积神经是恰恰相反的，是我们所想要的K-Nearest Neighbors加入了决策权重，每个样本有不用的投票vote权重L2欧几里得距离：平方根，L1更改
2021-05-28 16:31:00
545
原创 java开发规范
参见阿里巴巴JAVA开发手册最新版本官网下载参见：https://developer.aliyun.com/topic/java2020?utm_content=g_1000113416
2021-05-26 20:04:11
74
原创 [JAVA-3]Java基础语法
文章目录Java基础语法1.注释、标识符、关键字注释：标识符2.数据类型计算机存储单位3.类型转换4.变量、常量5.运算符6.包机制、JavaDocJava基础语法1.注释、标识符、关键字注释：书写注释很非常好习惯Java中的注释有三种：单行注释、多行注释、文档注释public class HelloWorld { public static void main(String[] args) { //单行注释 System.out.println("he
2021-05-26 19:58:27
85
原创 [JAVA-2] JAVA运行机制和IDE下载
文章目录JAVA运行机制和IDE下载运行机制IDEA安装和介绍什么是IDEIDEA介绍IDAE下载地址IDEA破解安装补充：千万别升级IDEA的使用创建HelloWorld为例删除项目JAVA运行机制和IDE下载运行机制语言分为编译型和解释型两种语言编译型：外国人想看中国人的书籍，比如《毛选》，将他全部翻译成英文，就是编译型。缺点：如果，毛选更新了，需要整本书全部再翻译一遍。解释型：外国人想看中国人的书籍，比如《毛选》，他找了个翻译官读给他听，看一段翻译一段，缺点：如果想看之前的，要叫翻译官倒
2021-05-25 17:38:11
94
原创 [JAVA-1] JAVA环境的搭建
文章目录JAVA语言框架Java安装开发环境JDK下载与安装与卸载安装卸载配置环境变量JDK目录介绍binincludejrelibsrc压缩包HelloWorld实现及其简单语法规则错误：找不到或无法加载主类语法规则NotePad++安装和使用JAVA语言框架Java安装开发环境JDK下载与安装与卸载安装查看电脑系统类型下载安装建议创建一个文件夹名为Environment,里面再创建一个Java文件夹，记住该目录路径卸载win+r//输入cmdjava
2021-05-24 21:25:48
162
原创 Python的基本知识
文章目录1、语句 statement1、概念2、说明3、折行符【\】1、显示换行2、隐式换行2、if条件判断语句1、作用2、语法3、说明if与elif的区别：如果程序中判断事件很多，全部用if的话，会遍历整个程序，如果用elif程序运行时，只要if或后续某个elif之一满足条件后，则程序执行完对应输入语句后就会结束程序(即不再去冗余的执行后续elif和else语句)提高效率练习分别写一个程序，输入学生的三科成绩，判断出最高成绩和最低成绩3、字符串【str】1、作用2、表示方式3、引号说明4、转义字符常见转义
2021-05-23 17:16:58
6345
原创 Typora使用picgo上传照片到gitee
软件准备PicGo Releases · Molunerfinn/PicGo · GitHubgitee使用准备picgo中选取插件，输入gitee，选择第二个安装gitee创建仓库创建token配置picgo注意：1是仓库地址，没有http的，从地址栏复制，然后去除gitee 2是自己在仓库工程中创建的文件夹 3先确认，在默认，不然会上传到别的图床上。配置typora中…(img-oa0EmmEP-1621759595622)]
2021-05-23 16:48:11
226
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人