- 博客(27)
- 收藏
- 关注
RSS订阅原创 为什么通常ReLU比Sigmoid效果好
1、ReLU的计算速度比Sigmoid更快，因为ReLU只涉及简单的阈值比较和取最大值的操作。这在训练大型深度网络时可以节省大量的计算资源。2、Sigmoid函数的导数在接近其两个极端（0和1）时非常接近于0，这会导致反向传播中的梯度消失问题。这意味着在深层网络中，通过多个Sigmoid层传播梯度时，梯度会逐渐变得非常小，导致网络训练变得非常缓慢，甚至无法收敛。ReLU通过在正数部分保持导数为1，从而更好地解决了梯度消失问题。3、在ReLU中，负数部分被截断为0，所以在每个神经元上只有一部分激活。
2023-09-20 10:19:10
994
原创 SGD、Momentum、AdaGrad、RMSProp和Adam的区别
SGD是最基本的优化算法之一。它通过在每次迭代中计算损失函数关于权重的梯度（对一小批量训练样本），然后沿着梯度的反方向来最小化损失。
2023-09-14 17:16:32
972
原创 【操作系统】第十二章-保护和安全
十二、保护和安全前言随着计算机技术的迅速发展，在计算机系统中存储的信息越来越多，信息的安全性问题也越来越重要。信息安全通常会受到以下两类攻击：①恶意攻击：攻击者试图获取或毁坏敏感信息，甚至破坏系统的正常操作，并可能造成很大的经济损失和社会危害；②无意/偶发性攻击：主要源于人们操作上的失误、计算机硬件的故障、OS或其它软件中存在的潜在漏洞，以及突然断电、火灾等自然灾害，由此造成的后果同样也可能啊非常严重的。1.安全环境1.1 实现“安全环境”的主要目标和面临的威胁实现“安全环境”的主要目标有三：数
2021-03-28 17:19:34
3321
原创 【操作系统】第十一章-多媒体操作系统
十一、多媒体操作系统随着计算机技术的不断发展和应用的普及，多媒体设备层出不穷，如数字视听设备、数码相机、可穿戴设备等等。它们的出现极大地丰富了人们的文化生活。这些设备的一个共同特点是，它们都是数字化的：利用计算机技术对音频和视频等信息进行处理、存储和传输。于是便提出了这样一个问题：基于计算机具有非常强的数字处理、存储和传输能力这一点，是否可在OS中集成这些功能？答案是肯定的，由此促使传统OS发展为多媒体OS。1.多媒体系统简介1.1 多媒体的概念数据、信息与媒体所谓数据，是反映客观事物及其运
2021-03-27 21:42:43
2885
原创 【操作系统】第十章-多处理机操作系统
十、多处理机操作系统前言计算机发展的历史请求地表明：提高计算机系统性能的主要途径有两条：一是提高构成计算机的元器件的运行速度，特别是处理器芯片的速度，而是改进计算机系统的体系结构，特别是在系统中引入多个处理器或多台计算机，以实现对信息的高度并行处理，达到提高系统吞吐量和可靠性的目的。1.多处理机系统的基本概念1.1 多处理机系统的引入引入多处理机系统的原因大致如下：CPU的时钟频率问题增加系统吞吐量节省投资提高系统可靠性1.2 多处理机系统的类型一般而言，可以从不同角度对多处理
2021-03-26 15:46:25
3118
原创 【操作系统】第九章-操作系统接口
九、操作系统接口前言操作系统作为计算机系统资源的管理者，对系统中的所有硬件和软件资源进行统一的管理和操纵。无论是用户(程序)或OS的外层软件，凡是涉及到系统资源的有关操作，都必须作为服务请求提交给OS，由它来完成。为了使用户能方便地使用计算机，操作系统提供了相应的用户接口，帮助用户快速、有效、安全、可靠地操纵计算机系统中的各类资源，完成相关的处理。一般地，操作系统向用户提供了两类接口，即用户接口和程序接口。值得说明的是，在Internet广为流行的今天，OS又增加了一种面向网络的网络用户接口。1.用户
2021-03-24 20:30:47
3170
原创 【操作系统】第八章-磁盘存储器的管理
八、磁盘存储器的管理1.外存的组织方式1.1 连续组织方式连续组织方式又称连续分配方式，要求为每一个文件分配一组相邻接的盘块。通常，它们都位于一条磁道上，在进行读/写时，不必移动磁头。在采用连续组织方式时，可把逻辑文件中的记录顺序地存储到邻接的各物理盘块中，这样所形成的文件结构称为顺序文件结构，此时的物理文件称为顺序文件。如同内存在动态分区分配一样，随着文件建立时空间的分配和文件删除时空间的回收，将使磁盘空间被分割成许多小块，这些较小的连续区已难于用来存储文件，此即外存的碎片。同样，我们也可以利用
2021-03-23 23:34:56
2674
原创 【操作系统】第七章-文件管理
七、文件管理前言由于计算机中的内存是易失性设备，断电后所存储的信息即会丢失，其容量又十分有限，所以在现代计算机系统中，都必须配置外存，将系统和用户需要用到的大量程序和数据以文件的形式存放在外存中，需要时再随时将它们调入内存，或将它们打印出来。如果由用户直接管理存放在外存上的文件，不仅要求用户熟悉外存特性，了解各种文件的属性，以及它们在外存上的位置，而且在多用户环境下还必须能保持数据的安全性和一直性。显然，这是用户所不能胜任的。于是在操作系统中又增加了文件管理功能，专门管理在外存上的文件，并把对文件的存取
2021-03-22 22:02:55
2098
原创 【操作系统】第六章-输入输出系统
六、输入输出系统前言I/O系统是OS的重要组成部分，用于管理诸如打印机和扫描仪等I/O设备，以及用于存储数据，如磁盘驱动器和磁带机等各种存储设备。由于I/O系统所含设备类型繁多，差异又非常大，致使I/O系统成为操作系统中最繁杂且与硬件最紧密相关的部分。1.I/O系统的功能、模型和接口1.1 I/O系统的基本功能为了满足系统和用户的要求，I/O系统应具有下述几方面的基本功能，其中，第一、二方面的功能是为了方便用户使用I/O设备；第三、四方面的功能是用于提高CPU和I/O设备的利用率；第五、六方面的
2021-03-21 10:06:30
2007
1
原创 【操作系统】第五章-虚拟存储器
五、虚拟存储器前言虚拟存储器作为现代操作系统中存储器管理的一项重要技术，实现了内存扩充功能。但该功能并非是从物理上实际地扩大内存的容量，而是从逻辑上实现对内存空间更大的程序运行，或者让更多的用户程序并发运行。这样既满足了用户的需要，又改善了系统的性能。1.虚拟存储器概述1.1 常规存储器管理方式的特征和局部性原理常规存储器管理方式的特征我们把前一章中所介绍的各种存储器管理方式统称为传统存储器管理方式，它们全都具有如下两个共同的特征：(1) 一次性，是指作业必须一次性地全部装入内存后方能开
2021-03-19 19:27:40
1976
原创 【操作系统】第四章-存储器管理
四、存储器管理1.存储器的层次结构在计算机执行时，几乎每一条指令都涉及对存储器的访问，因此要求对存储器的访问速度能跟得上处理机的运行速度。或者说，存储器的速度必须非常快，能与处理机的速度相匹配，否则会明显地影响到处理机的运行。此外还要求存储器具有非常大的容量，而且存储器的价格还应很便宜。对于这样十分严格的三个条件，目前是无法同时满足的。于是在现代计算机系统中都无一例外地采用了多层结构的存储器系统。1.1 多层结构的存储器系统存储器的多层结构对于通用计算机而言，存储层次至少应具有三级：最高层为
2021-03-19 09:05:24
1275
原创 【操作系统】第三章-处理机调度与死锁
三、处理机调度与死锁前言在多道程序环境下，内存中存在着多个进程，其数目往往多于处理机数目。这就要求系统能按某种算法，动态地将处理机分配给处于就绪状态的一个进程，使之执行。分配处理机的任务是由处理机调度程序完成的。对于大型系统运行时的性能，如系统吞吐量、资源利用率、作业周转时间或响应的及时性等，在很大程度上都取决于处理机调度性能的好坏。因而，处理机调度便成为OS中至关重要的部分。1.处理机调度的层次和调度算法的目标1.1 处理机调度的层次高级调度高级调度又称长程调度或作业调度，它的调度对象是
2021-03-17 19:25:27
1577
原创 【操作系统】第二章-进程的描述与控制
第二章、进程的描述与控制前言在传统的操作系统中，为了提高资源利用率和系统吞吐量，通常采用多道程序技术，将多个程序同时装入内存，并使之并发运行，传统意义上的程序不再能独立运行。此时，作为资源分配和独立运行的基本单位都是进程。操作系统所具有的四大特征也都是基于进程而形成的，并从进程的角度对操作系统进行研究。可见，在操作系统中，进程是一个极其重要的概念。因此，本章专门对进程进行详细阐述。1.前趋图和程序执行1.1 前趋图1.2 程序顺序执行程序的顺序执行下图中I代表输入操作，C代表计算操作
2021-03-16 17:21:47
945
原创 【操作系统】第一章-操作系统引论
第一章、操作系统引论前言操作系统（Operating System，OS）是配置在计算机硬件上的第一层软件，是对硬件系统的首次扩充。其主要作用是管理好这些设备，提高它们的利用率和系统的吞吐量，并为用户和应用程序提供一个简单的接口，便于用户使用。OS是现代计算机系统中最基本和最重要的系统软件，而其它的诸如编译程序、数据库管理系统等系统软件，以及大量的应用软件，都直接依赖于操作系统的支持，取得它所提供的服务。事实上OS已成为现代计算机系统、多处理机系统、计算机网络中都必须配置的系统软件。1.操作系统的目标
2021-03-14 16:26:43
1625
3
原创 【大话数据结构】第四章-栈和队列
四、栈与队列1.栈的定义栈(stack)是限定仅在表尾进行插入和删除操作的线性表。我们把允许插入和删除的一端称为栈顶(top)，另一端称为栈底(bottom)，不含任何数据元素的栈称为空栈。栈又称为后进先出(Last In First Out)的线性表，简称LIFO结构。栈的插入操作，叫做进栈，也称压栈、入栈。栈的删除操作，叫做出栈，也有的叫作弹栈。2.栈的抽象数据类型ADT 栈(stack)Data 同线性表。元素具有相同的类型，相邻元素具有前驱和后继关系。Operation Ini
2021-03-11 14:07:54
275
原创 【大话数据结构】第九章-排序
九、排序1.排序的基本概念与分类假设含有n个记录的序列为{r1,r2,······.rn}，其相应的关键字分别为{k1,k2,······,kn}，需确定1,2,······,n的一种排序p1,p2,······,pn，使其相应的关键字满足kp1≤kp2≤······≤kpn（非递减或非递增）关系，即使得序列成为一个按关键字有序的序列{pp1,rp2,······rpn}，这样的操作就称为排序。在排序问题中，通常将数据元素称为记录。显然我们输入的是一个记录集合，输出的也是一个记录集合，所以说，可以将排
2021-03-09 20:58:18
422
原创 【大话数据结构】第三章-线性表
三、线性表1.线性表的定义线性表(List)：零个或多个数据元素的有限序列。线性表元素的个数n(n>=0)定义为线性表的长度，当n=0时，称为空表。在复杂的线性表中，一个数据元素可以由若干个数据项组成。2.线性表的抽象数据类型线性表的抽象数据类型定义：ADT 线性表(List)Data 线性表的数据对象集合为{a1,a2,......an}，每个元素的类型均为DataType。其中，除第一个元素a1 外，每一个元素有且只有一个直接前驱元素，除了最后一个元素an外，每一个
2021-03-08 17:07:47
672
原创 【大话数据结构】第八章-查找（2）
八、查找（二）7.多路查找树（B树）对于内存中的数据处理，将它写下来并时常阅读是内存数据对外存磁盘上的存取操作。内存一般都是由硅制的存储芯片组成，这种技术的每一个存储单位代价都要比磁存储技术昂贵两个数量级，因此基于磁盘技术的外存，容量比内存的容量至少大两个数量级。这也就是目前PC通常内存几个G而已，而硬盘却可以成百上千G容量的原因。我们前面讨论过的数据结构，处理数据都是在内存中，因此考虑的都是内存中的运算时间复杂度。但如若我们操作的数据集非常大，大到内存已经没有办法处理了怎么办呢？如数据库中的上千
2021-03-07 17:06:37
528
原创 【大话数据结构】第八章-查找（1）
八、查找（1）1.查找概论查找表（Search Table）是由同一类型的数据元素（或记录）构成的集合，如下图就是一个查找表。关键字（key）是数据元素中某个数据项的值，又称为键值，用它可以标识一个数据元素，也可以标识一个记录的某个数据项（字段），我们称为关键码，如下图①②。若此关键字可以唯一地标识一个记录，则称此关键字为主关键字（Primary Key）。这就意味着，对不同的记录，其主关键字均不相同。主关键字所在的数据项称为主关键码，如下图③④。对于那些可以识别多个数据元素（或记录）的关键字，我
2021-03-07 11:48:48
567
原创 【大话数据结构】第七章-图
七、图1.图的定义图 (Gragh) 是由顶点的有穷非空集合和顶点之间边的集合组成，通常表示为：G(V,E)，其中，G表示一个图，V是图G中顶点的集合，E是图G中边的集合。对于图的定义，需要注意几个地方：线性表中我们把数据元素叫元素，树中将数据元素叫结点，在图中数据元素我们称之为顶点（Vertex）。线性表中可以没有数据元素，称为空表。树中可以没有结点，叫做空树。而图中，不允许没有顶点。线性表中，相邻的数据元素之间具有线性关系，树结构中，相邻两层的结点具有层次关系，而图中，任意两个顶点之间都
2021-02-28 19:45:39
874
2
原创 【大话数据结构】第六章-树
六、树1.树的定义1.1 定义树（Tree）是 n（n≥0）个结点的有限集。n=0时称为空树。在任意一棵非空树中：(1) 有且仅有一个特定的称为根(Root)的结点；(2) 当n>1时，其余结点可分为m(m>0)个互不相交的有限集T1、T2、······、Tm，其中每一个集合本身又是一棵树，并且称为根的子树(SubTree)，如图。1.2 结点分类树的结点包含一个数据元素及若干指向其子树的分支。结点拥有的子树数称为结点的度(Degree)。度为0的结点称为叶结点(Leaf)或终端
2021-02-04 11:14:17
853
原创 【大话数据结构】第五章-串
五、串1.串的定义串(string)是由零个或多个字符组成的有限序列，又名叫字符串。一般记为 s=“a1a2······an”(n≥0)。串中的字符数目n称为串的长度。零个字符的串称为空串(null string)。空格串：只包含空格的串。子串与主串：串中任意个数的连续字符组成的子序列称为该串的子串，相应地，包含子串的串称为主串。2.串的比较给定两个串：s=“a1a2······an”，t=“a1a2······am”，当满足以下条件之一时，s<t。n<m，且ai=bi(
2021-01-26 21:53:28
298
转载 【C语言】函数传参 — 传值、传指针、传指针的指针
前言本文结合这两篇文章加上自己的理解总结所写：文章一、文章二。想要解决的问题在学习数据结构中创建单链表的时候，疑惑：已经定义了Node，用到结构体指针的时候直接用*Node就好了，为什么还要再定义一个*LinkList呢，为什么传参的时候又要用LinkList *L呢？下面我们就来循序渐进，由浅入深来解决问题，这里举两个例子作为比较。首先来看这个例子：找出一个长度为10的int型数组的最大和最小值（这里限定必须要用函数来实现）int arr[] = {1,8,10,2,-5,0,7,15,4
2021-01-23 13:56:47
1117
1
原创 【大话数据结构】第二章-算法
文章目录二、算法1. 问题引入2.算法定义3.算法的特性3.1 输入输出3.2 有穷性3.3 确定性3.4 可行性4.算法设计的要求4.1 正确性4.2 可读性4.3 健壮性4.4 时间效率高和存储量低5.算法效率的度量方法5.1 事后统计法5.2 事前分析估算法6.函数的渐近增长7.算法时间复杂度7.1 算法时间复杂度定义7.2 推导大O阶方法7.3 常数阶7.4 线性阶7.5 对数阶7.6 平方阶8.常见的时间复杂度9.最坏情况和平均情况10.算法空间复杂度二、算法1
2021-01-19 21:07:27
162
原创 【大话数据结构】第一章-数据结构绪论
一、数据结构绪论1.基本概念1.1 数据数据：是描述客观事物的符号，是计算机中可以操作的对象，是能被计算机识别，并输入给计算机处理的符号集合。数据不仅仅包括整型、实型等数值类型，还包括字符及声音、图像、视频等非数值类型。1.2 数据元素数据元素：是组成数据的、有一定意义的基本单位，在计算机中通常作为整体处理。也被称为记录。1.3 数据项数据项：一个数据元素可以由若干个数据项组成。数据项是数据不可分割的最小单位。1.4 数据对象数据对象：是性质相同的数据元素的集合，是数据的子集。.
2021-01-18 23:35:36
175
原创 docker学习笔记
文章目录Docker概述背景产生Docker安装（CentOS版）步骤配置镜像加速器Docker命令帮助命令镜像命令容器命令常用其他命令作业练习可视化Docker镜像讲解镜像是什么Docker镜像加速原理分层理解commit镜像容器数据卷什么是容器数据卷使用数据卷实战：安装MySQL具名和匿名挂载初识DockerFile数据卷容器DockerFileDockerFile介绍DockerFile构建过程DockerFile的指令实战测试实战：Tomcat镜像发布自己的镜像小结Docker网络理解Docker0
2021-01-04 13:12:47
905
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人