2201_76139143的博客

原创 数字图像处理——数字图像基础（持续更新）

取样量化视觉感知要素——亮度适应和鉴别：人眼对不同亮度的适应和鉴别能力：亮 -> 暗 适应；暗 -> 亮 适应。

原创 深度学习pytorch——RNN从表示到原理、应用、发展、实战详细讲解（终结）

RNN全称为Recurrent Neural Network，中文名字“循环神经网络”。具体是什么，往下看：当我们去做一个情感分析的时候，会尝试去评价一个句子是积极的还是消极的，先让我们以CNN的角度来看：现在我们要分析I hate this boring movies这句话是消极的，还是积极的，我们将此句话使用一个[5, 100]的序列来表示，其中5表示一共有5个单词，100表示每个单词使用100个维度来表示。

原创 解决报错 由于目标计算机积极拒绝，无法连接

完整错误：WARNING: Retrying (Retry(total=0, connect=None, read=None, redirect=None, status=None)) after connection broken by 'ProxyError('Cannot connect to proxy.', NewConnectionError('<pip._vendor.urllib3.connection.HTTPConnection object at 0x0000021FA8A69FD0>

原创 深度学习pytorch——基于CIFAR-10数据集的Lenet5、Resnet的实战（持续更新）

想的时候都是困难，做的时候才是答案。

原创 深度学习pytorch——数据增强（持续更新）

大量的数据是防止过拟合的关键，但是我们如何去获取大量的数据，是自己去拍摄、录制吗？显然这种方式有极高的成本。我们可以对同一张图片进行变换得到多张图片，比如原来只有10张图片，通过变换变成了20张图片，但是并不能无限的增长，也是有限制的，这种方法就叫做数据增强。数据增强的成本基本为0，虽然最后得到的图片效果也没有原图片好，但是有总比没有强，会在一定程度上增强我们的模型。

原创 深度学习pytorch——全连接层（持续更新）

【代码】深度学习pytorch——全连接层（持续更新）

原创 深度学习pytorch——nn.Module（持续更新）

1、nn.Module是所有层的父类，比如Linear、BatchNorm2d、Conv2d、ReLU、Sigmoid、ConvTranposed、Dropout等等这些都是它的儿子（子类），你可以直接拿来使用。作为一个初学者，发现构建一个简单的线性模型都能看到nn.Module的身影，初学者疑惑了，nn.Module到底是干什么的，如此形影不离，了解之后，很牛。2、nn.Module还支持一个nn.Module嵌套另一个nn.Module。如果你还有什么更好的idea，欢迎分享！

原创 深度学习pytorch——经典卷积网络之ResNet（持续更新）

我们将最后的输出设置为 H(x) ，我们将堆叠的非线性层去拟合F(x) = H(x) - x ，原来的映射就变成了F(x) + x （F(x)必须和x的维度相同，如果不相同可是使用1*1卷积或者增加padding）。相当于我们在一些非线性对叠层之间插入了一个短路（shortcut connection），如果堆叠之后的模型的训练Error比之前还要差，就会直接走短路通道，如果堆叠之后的模型比之前好了，就进行堆叠，至于在几个堆叠层之间插入一个短路，这取决于训练的参数。

原创 深度学习pytorch——正则化（持续更新）

由于Sigmoid函数在两边存在梯度趋于零的特性，这种特性会使梯度长久得不到更新，造成梯度离散的现象，如何处理这一种现象？压缩数据使数据位于Sigmoid梯度不趋于0区间，即批量正则化（Batch Norm ）（图-1）。

原创 深度学习pytorch——卷积神经网络（持续更新）

标准的神经网络是全连接的方式，全连接会获取更多的信息，但同时也包含着巨大的算力需求。在以前，算力完全不足以支撑如此巨大的计算量，但是又要进行处理，因此当时的人们联想到了人类观察事物的过程，即结合人眼观察事物的角度——先观察吸引我们的点，忽略不吸引我们的点，这称为局部相关性（。应用到神经网络中，就出现了卷积的概念。卷积操作就是先仅仅观察一部分，然后移动视野观察下一部分，这就称为卷积操作（图-3）。图-3图-4图-5。

原创 深度学习pytorch——减少过拟合的几种方法（持续更新）

正则化：得到一个更加简单的模型的方法。以一个多项式为例：随着最高次的增加，会得到一个更加复杂模型，模型越复杂就会更好的拟合输入数据的模型（图-1），拟合的程度越大，表现在参数上的现象就是高次的系数趋近于0，如果直接将趋近于0的高次去掉，就可以得到一个更加简单的模型，这种方法称为。

原创 深度学习pytorch——可视化visdom（持续更新）

在命令行窗口使用python -m visdom.server，会出现一个web地址，在浏览器中访问，即可看见在python中生成的图。

原创 e: Error while finding module specification for ‘visdom.server‘ (ModuleNotFoundError: No module name

但是当使用，会出现报错：e: Error while finding module specification for 'visdom.server' (ModuleNotFoundError: No module named 'visdom')直接在cmd命令下执行，显示安装成功。

原创 深度学习pytorch——过拟合&欠拟合&测试深度学习模型（持续更新）

随着项数越来越多，函数的图形就更加复杂，多项式也更加的复杂。如果利用多项式建造复杂模型，从仅仅一个常数至一个多次方函数，将会发现在线上的点会变得越来越多，这种逐渐接近样本点的过程叫做拟合。

原创 深度学习pytorch——GPU加速（持续更新）

GPU加速

原创 深度学习pytorch——多分类问题（持续更新）

1、回归问题的目标是使预测值等于真实值，即pred=y。2、求解回归问题的方法是使预测值和真实值的误差最小，即minimize dist(pred,y)，一般我们通过求其2-范数，再平方得到它的最小值，也可以直接使用1-范数。

原创 深度学习pytorch——2D函数优化实例（持续更新）

【代码】深度学习pytorch——2D函数优化实例（持续更新）

原创 深度学习pytorch——多层感知机反向传播（持续更新）

pytorch公式的推导到这里基本结束了。经过每一次的公式的推导，我们发现公式都是通过求导问题来分析的，其中不仅含有基本数学公式的求导，还联系到链式法则，如果高数学的还不错，我相信这些都不是问题。在以后的实践，理解基本原理有助于我们更好的编写深度学习的代码。而且随着人工智能的发展，AI安全问题随之出现，想要做出更棒的智能产品，理解其内部原理，将会更好帮助我们的前进。分析求导过程，求导的时候记得我们求的时最后一层，并且注意各下角标的含义（都在。

原创 数据库系统与概论——关系模型思维导图（持续更新）

原创 深度学习pytorch——链式法则（Chain rule）（持续更新）

这篇文章将会以深度学习的角度解析链式法则。

原创 深度学习pytorch——感知机（Perceptron）（持续更新）

感知机是由美国学者FrankRosenblatt在1957年提出来的。感知机是作为神经网络（深度学习）的起源的算法。因此，学习感知机的构造也就是学习通向神经网络和深度学习的一种重要思想。感知机接收多个输入信号，输出一个信号。这里所说的“信号”可以想象成电流或河流那样具备“流动性”的东西。像电流流过导线，向前方输送电子一样，感知机的信号也会形成流，向前方输送信息。但是，和实际的电流不同的是，感知机的信号只有“流/不流”（1/0）两种取值。这里我们认为0对应“不传递信号”， 1对应“传递信号”。

原创 深度学习pytorch——激活函数&损失函数（持续更新）

论生物神经元与神经网络中的神经元联系——为什么使用激活函数？我们将生物体中的神经元与神经网络中的神经元共同分析。从下图可以看出神经网络中的神经元与生物体中的神经元有很多相似之处，由于只有刺激达到一定的程度人体才可以感受到刺激，并且人体对刺激做出的响应是有限的，所以在输出之前应该经过激活函数。这个激活函数可以将原来发散的数据变成收敛的数据。什么是梯度？函数在某一点的梯度是这样一个向量，它的方向与的方向一致，而它的模为方向。

原创 深度学习pytorch——高阶OP（where & gather）（持续更新）

我们经常需要一个数据来自好几个的取值，而这些取值通常是不规律的，这就会导致使用传统的拆分和合并会非常的麻烦。我们也可以使用for循环嵌套来取值，也是可以的，但是使用for循环就意味着是python，那并没有很好的利用pytorch提供的使用gpu加速计算，当数据量非常大的话，会很大的拉低效率，因此我们使用pytorch提供的where。

原创 深度学习pytorch——统计属性（持续更新）

深度学习笔记

原创 数字图像处理——MATLAB基础（持续更新）

主要讲述以数字图像处理为目的的matlab基础

原创 深度学习pytorch——基本运算（持续更新）

但是这里应该注意 * 和 .matmul()的区别，* 是对于每个元素对应相乘，.matmul()是对于矩阵的相乘（矩阵相乘的不会的，建议复习一下线性代数）无善无恶心之体，有善有恶意之动，知善知恶是良知，为善去恶是格物。1、Torch.mm() # 仅仅适用于2维的。floor()：floor地板的意思，就是向下取最大的整数。ceil()：ceil天花板的意思，就是向上取最小的整数。trunc()：裁剪整数部分。基本运算——加、减、乘、除。基本运算——加、减、乘、除。

原创 深度学习pytorch——拼接与拆分（持续更新）

使用条件：合并的dim的size可以不同，但是其它的dim的size必须相同。语法：cat([tensor1,tensor2],dim = n) # 将tensor1和tensor2的第n个维度合并。

原创 深度学习pytorch——Broadcast自动扩展

在 PyTorch 中，Broadcast 是指自动扩展（broadcasting）运算的功能。它允许用户在不同形状的张量之间执行运算，而。当进行运算时，PyTorch 会，使其能够顺利进行运算。具体来说，如果两个张量的形状不完全相同，但时，PyTorch 可以使用 Broadcast 功能来进行运算。这两个张量在进行运算时，会自动根据 Broadcast 规则进行大小扩展，使它们的形状变得兼容。这样一来，我们就可以直接对这两个形状不同的张量进行运算，而不需要手动将它们的形状改变为相同的大小。

原创 深度学习pytorch——Tensor维度变换（持续更新）

需要注意的是打平之后的tensor是需要有物理意义的，根据需要进行打平，并且打平后总体的大小是不发生改变的。并且一定要谨记打平会导致维度的丢失，造成数据污染，如果想要恢复到原来的数据形式，是需要靠人为记忆的。现在给出一个tensor——a.shape=torch.Size([4, 1, 28, 28])，打平a.view(4,1*28*28)，此时a.view(4,1*28*28).shape=torch.Size([4, 784])。

原创 深度学习pytorch——索引与切片（持续更新）

【代码】深度学习pytorch——索引与切片。

原创 深度学习pytorch——基本数据类型&创建Tensor（持续更新）

声明：本深度学习笔记基于学习而来。

原创 Mysql数据库学习笔记——第二篇

注意：1、插入数据时，指定的字段顺序需要与值的顺序是一一对应的。2、字符串和日期型数据编谊包含在引号中。3、插入的数据大小，应该在字段的规定范围内。

原创 机器学习（选修）（持续更新）

1、一般我们会得到一组参数，它是由很多组weight和bias组成的。2、首先，我们在处理数据的时候，会选择一个初始化参数3、其次，我们计算每个与w的偏微分，把他们组成矩阵的形式，如下图：这个就是我们所求的梯度（gradient）。4、然后，我们将选定的初始参数减去我们的梯度乘于学习率，就得到了我们新的参数，如下图：5、我们一直按照2、3、4的方式持续计算，不断更新我们的参数。

原创 机器学习-pytorch1（持续更新）

上一节我们学习了机器学习的线性模型和非线性模型的机器学习基础知识，这一节主要将。

原创 机器学习笔记（持续更新）

2021课程地址：https://speech.ee.ntu.edu.tw/~hylee/ml/2021-spring.html2022课程地址：https://speech.ee.ntu.edu.tw/~hylee/ml/2022-spring.php这一节主要为机器学习中的监督式学习的回归问题。

原创 P9230 [蓝桥杯 2023 省 A] 填空问题

这个我和网上的题解算的都不一样，有哪个好心人可以告诉我哪里有问题？

原创 JavaScript基本知识点

声明一个变量未赋值就是未定义类型。

原创 [LitCTF 2023]easy_shark

解压缩，发现需要输入密码，使用010打开，发现frflags和deflags都被修改了，这就会造成压缩包伪加密。拼接得到flag flag{w13e5hake_1s_a_900d_t3a771c_t001_a}得到flag，flag{w13e5hake_1s_a_900d_t3a771c_t001}看到了一个类似于flag格式的字符串，但是经过了加密，上方还存在一个方程，解为17 77。它的加密函数是D(x) = (a*x+b) (mod m)，这里a,b变量就是密钥其中；直接追踪tcp流，看请求包。

原创 [GDOUCTF 2023]pixelart

发现原始分辨率是3840*2160------>320*180正好是缩小12倍。图中放了一个缩略图，PS量一下，每个像素宽高都距离。使用zsteg查看隐写数据，得到flag。使用010打开，发现末尾有像素提示。下载题目得到如下一张图片。使用脚本改变图片像素。

原创 数据库的学习笔记——第一篇

DDL 数据定义 数据库、表字段DML 数据操作 增删改DQL 数据查询 查询表中记录DCL 数据控制 创建用户、控制用户权限。