- 博客(39)
- 收藏
- 关注
RSS订阅原创 神经网络：表述（四）
些特征，但是我们仍然受到这些原始特征的限制。我们上面三层的神经网络例子中，第三层也就是输出层做出的预测利用的是第二层的特征，而非输入层中的原始特征，我们可以认为第二层中的特征是神经网络通过学习后自己得出的。们可以用一个单一的激活层可以作为二元逻辑运算符，为了表示不同的运算符，我们之需要。我们可以利用神经元来组合成更为复杂的神经网络以实现更复杂的运算。按这种方法我们可以逐渐构造出越来越复杂的函数，也能得到更加厉害的特征值。神经网络中，单层神经元（无中间层）的计算可用来表示逻辑运算，比如逻辑。
2022-10-18 14:05:15
478
1
原创 神经网络：表述（三）
这只是针对训练集中一个训练实例所进行的计算。如果我们要对整个训练集进行计算，我们需要将训练集特征矩阵进行转置，使得同一个实例的特征都在同一列里。相对与使用循环来编码，利用向量化的方法会使得计算更。以上面的神经网络为例，试着计算第二层的值。这就是神经网络相比于逻辑回归和线性回归的优势。是变化的，并且变得越来越厉害，所以这些更高。与决定的，因为是梯度下降的，所以。次方厉害，也能更好的预测新数据。的工作原理，我们先把左半部分遮住。看成更为高级的特征值，也就是。的进化体，并且它们是。级的特征值远比仅仅将。
2022-10-18 14:00:29
389
原创 神经网络：表述（二）
收这条消息，做一些计算，它有可能会反过来将在轴突上的自己的消息传给其他神经元。就是所有人类思考的模型：我们的神经元把自己的收到的消息进行计算，并向其他神经元传。下图是一个以逻辑回归模型作为自身学习模型的神经元示例，在神经网络中，参数又可。为了构建神经网络模型，我们需要首先思考大脑中的神经网络是怎样的？下面是一组神经元的示意图，神经元利用微弱的电流进行沟通。这里是一条连接到输入神经，或者连接另一个神经元树突的神经，接下来这个神经元接。神经网络模型建立在很多神经元之上，每一个神经元又是一个个学习模型。
2022-10-07 20:27:41
296
原创 神经网络：表述（一）
我们之前学的，无论是线性回归还是逻辑回归都有这样一个缺点，即当特征太多时，计算的负荷会非常大下面是一个例子：当我们使用x1,x2的多次项式进行预测时，我们可以应用的很好。之前我们已经看到过，使用非线性的多项式项，能够帮助我们建立更好的分类模型。假设我们有非常多的特征，例如大于100个变量，我们希望用这100个特征来构建一个非线性的多项式模型，结果将是数量非常惊人的特征组合，即便我们只采用两两特征的组合（x1x2+x1x3+x1x4+...+x2x3。
2022-10-07 20:12:08
254
原创 正则化（二）
正则化线性回归的代价函数为：如果我们要使用梯度下降发令这个代价函数最小化，因为我们未对θ0进行正则化，所以梯度下降算法将分两种情形：对上面的算法中 j=1,2,...,n 时的更新式子进行调整可得：可以看出，正则化线性回归的梯度下降算法的变化在于，每次都在原有算法更新规则的基础上令θ值减少了一个额外的值。我们同样也可以利用正规方程来求解正则化线性回归模型，方法如下所示：图中的矩阵尺寸为。
2022-10-07 20:03:12
280
原创 正则化（一）
个四次方的模型，过于强调拟合原始数据，而丢失了算法的本质：预测新数据。出，若给出一个新的值使之预测，它将表现的很差，是过拟合，虽然能非常好地适应我们的。有非常多的特征，我们并不知道其中哪些特征我们要惩罚，我们将对所有的特征进行惩罚，所以对于正则化，我们要取一个合理的λ的值，这样才能更好的应用正则化。我们可以从之前的事例中看出，正是那些高次项导致了过拟合的产生，所以如果我们能。所以我们要做的就是在一定程度上减小这些参数θ的值，这就是正则化的基本方法。的次数越高，拟合的越好，但相应的预测的能力就可能变差。
2022-10-07 19:53:36
367
原创 回归逻辑（四）
在一对多方法中，我们将多 类分类问题转化成二元分类问题。为了能实现这样的转变，我们将多个类中的一个类标记为正向类（y=1），然后将其他。接着，类似地第我们选择另一个类标记为 正向类（y=2），再将其它类都标记为负向类，将这个模型记作。最后，在我们需要做预测时，我们将所有的分类机都运行一遍，然后对每一个输入变量，例如我们要预测天气情况分四种类型：晴天、多云、下雨或下雪。多类分类问题中，我们的训练集中有多个类（所有类都标记为负向类，这个模型记作。），我们无法仅仅用一个二元变量（都选择最高可能性的输出变量。
2022-09-25 23:13:41
196
原创 回归逻辑（三）
对于一个样本（x,y):如果它属于类别y = 1，那么他出现的概率是 P（y = 1 | x)；如果它属于类别 y = 0,那么它出现的概率是P(y = 0 | x)。不管是y = 1还是y = 0,(x,y)出现的概率可统一表示为P(y = 1|x)^y P(y = 0 | x)^(1 - y) 或者 fw(x)^y(1 - fw(x))^(1 - y)。因为乘法计算会使数值迅速变成无穷大或趋近于0，所以，为了使算法具有数值稳定性并方便导数计算，通常将这个概率的·1负对数的平均值作为代价函数，即。
2022-09-25 23:08:00
266
原创 回归逻辑（二）
因为需要用曲线才能分隔 y=0 的区域和 y=1 的区域，我们需要二次方特征： 假设参数 是[-1 0 0 1 1]这样定义了的代价函数中时，我们得到的代价函数将是一个非凸函数（non-convex function）。数最小的算法，这些算法更加复杂和优越，而且通常不需要人工选择学习率，通常比梯度下。对于线性回归模型，我们定义的代价函数是所有模型误差的平方和。在得到这样一个代价函数以后，我们便可以用梯度下降算法来求得能使代价函数最小的。注：虽然得到的梯度下降算法表面上看上去与线性回归的梯度下降算法一样，
2022-09-17 19:37:01
314
原创 逻辑回归（一）
假使我们又观测到一个非常大尺寸的恶性肿瘤，将其作为实例加入到我们的。在分类问题中，我们尝试预测的是结果是否属于某一个类（例如正确或错误）。回顾在一开始提到的乳腺癌分类问题，我们可以用线性回归的方法求出适合数据的一条。的作用是，对于给定的输入变量，根据选择的参数计算输出变量=1 的可能性即。根据线性回归模型我们只能预测连续的值，然而对于分类问题，我们需要输出。我们引入一个新的模型，逻辑回归，该模型的输出变量范围始终在 0。对于上图所示的数据，这样的一个线性模型似乎能很好地。的范围，并不适合解决这样的问题。
2022-09-17 19:30:02
378
原创 逻辑回归预学习
在逻辑回归中，我们预测：当hθ大于等于0.5时，预测y=1当hθ小于0.5时，预测y=0根据上面绘制出的S形函数图像，我们知道当z=0时g(z)=0.5z>0时g(z)>0.5z
2022-09-04 20:43:13
531
原创 单变量线性回归总结
梯度下降背后的思想是：开始时我们随机选择一个参数的组合（θ0,θ1,...,θn），计算代价函数，然后我们寻找下一个能让代价函数值下降最多的参数组合。我们选择的参数决定了我们得到的直线相对于我们的训练集的准确程度，模型所预测的值与训练集中实际值之间的差距就是建模误差。我们的目标便是选择出可以使得建模误差的平方和能够最小的模型参数。其中α是学习率，它决定了我们沿着能让代价函数下降程度最大的方向向下迈出的步子有多大，在批量梯度下降中，我们每一次都同时让所有的参数减去学习速率乘以代价函数的导数。
2022-09-04 20:34:29
590
原创 JAVA复习（一）
目录第一章 Java语言概述：第二章 Java语言基础：第三章 面向对象程序设计基础：第四章 数组与字符串：第五章 图形用户界面设计: 第6章 Java图形与事件处理第七章 多线程与异常处理：第八章 文件的输入输出流：第九章 网络通信： 这个就略了..数据类型的分类以及各种数据类型占用长度(常量使用 final定义)：数据类型的分类： Java标识符的命名规则只能用4种：字符 美元符（$） 下划线（_） 数字 ， 但是数字不能放在第一位 ；字符类型 与 整数之间的关系？字符型数据在做数字运算时实际上是对
2022-06-14 00:14:36
125
原创 初识密码学
简单密码类型：摩斯密码：指解题中的密文涉及摩斯密码，摩斯密码的特征是以.-或01组成的，分隔符有空格或斜杠/。url编码：指解题中的密文涉及url编码，url编码的特征是使用 "%" 其后跟随两位的十六进制数来替换非 ASCII 字符。传统base64解密：指题目中密文是涉及base64加密，密文通常是4的倍数，基本元素是ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789+/和补充的'='unicode解密
2022-03-21 20:24:07
588
原创 触摸按键控制 LED 灯实验
1 触摸按键简介触摸按键主要可分为四大类：电阻式、电容式、红外感应式以及表面声波式。根据其属性的不同，每 种触摸按键都有其合适的使用领域。 电阻式触摸按键由多块导电薄膜按照按键的位置印制而成，但由于耐用性较差且维护复杂，目前使用 率较低；红外感应式触摸按键通过红外扫描来识别按键位置，一般在较恶劣的环境下使用；表面声波式触 摸按键利用声波扫描来识别是否按下，使用寿命长，较适合公共场所的 POS 机，无人售货机等处使用。 电容式触摸按键：这种按键的诞生主要是为了克服电阻式按键耐用性差的不足所提出的。电容式
2022-03-20 23:05:22
770
原创 Vivado
下面介绍 Vivado 工程主界面中的几个主要子窗口：（1）Flow Navigator。Flow Navigator 提供对命令和工具的访问，其包含从设计输入到生成比特流的整 个过程。 在点击了相应的命令时，整个 Vivado 工程主界面的各个子窗口可能会作出相应的更改。 （2）数据窗口区域。默认情况下，Vivado IDE 的这个区域显示的是设计源文件和数据相关的信息。 • Sources 窗口：显示层次结构（Hierarchy）、IP 源文件（IP Sources）、库（Librar
2022-03-02 16:59:16
2229
原创 线段树.2
一.点更新这很好办，有没有注意我们是使用了一个father数组，如果我在原数组中修改第i个元素的值，我们是直接可以node[father[i]].value=w，这就是我们使用father数组的好处，那你可能会问了，我们这样是不是要使用三个数组？大可不必，我们没必要给原有数据开一个数组存放，因为我们本身就已经把数据放在线段树中了，不管线段树中存放的是区间和还是区间最值，对于叶子结点来说，它就是本身。那么我们加入了点，自然也要更新整棵树，那有关这个叶子结点到根节点的路径自然全部都是要更新的，我们则是从下往
2022-02-17 21:31:52
282
原创 基于曾神的讲解对线段树的再研究.1
概念线段树是一种二叉树，也就是对于一个线段，我们会用一个二叉树来表示。比如说一个长度为4的线段，我们可以表示成这样：亦然长度为n（丑丑的）概括：节点i的权值=她的左儿子权值+她的右儿子权值。因为1-4的和就是等于1-2的和2-3的和根据这个思路，我们就可以建树了，我们设一个结构体tree，tree[i].l和tree[i].r分别表示这个点代表的线段的左右下标，tree[i].sum表示这个节点表示的线段和。我们知道，一颗二叉树，她的左儿子和右儿子编号分别是她*2和她*2+1再.
2022-02-16 21:09:40
226
原创 软件篇NO.1
.1 Vivado 软件的安装Xilinx 公司每年都会对 Vivado 设计套件进行更新，各个版本之间除界面以及其它性能的优化之外，基 本的使用功能都是一样的进入 Vivado 的安装引导页面，如下图接下来是选择版次，这里我们选择全功能的版次，即“System Edition”，其包含最多的子组件。如下 图接下来是选择工具组件和器件库。为了节省存储空间，我们将用不到的工具组件和器件库去掉，如下 图点击Next，进入Summary界面，该界面总结了前面所有安装的配...
2022-02-15 20:55:07
250
原创 ZYNQ 的学习方法
ZYNQ 作为目前热门的 SOC 类处理器，正在被越来越多的公司选择使用。学习 ZYNQ 的朋友也越来越 多，初学者可能会认为 ZYNQ 很难学，以前只学过 51，或者甚至连 51 都没学过的，一看到 ZYNQ 就懵了。 其实，万事开头难，只要掌握了方法，学好 ZYNQ，还是非常简单的，这里我们总结学习 ZYNQ 的几个要 点：1. 一款实用的开发板。 这个是实验的基础，有时候软件仿真通过了，在板上并不一定能跑起来，而且有个开发板在手，什么东 西都可以直观的看到，效果不是仿真能比的。但开发板不宜多，
2022-02-14 16:25:40
3096
原创 ZYNQ 主控芯片
ZYNQ7020 核心板主控芯片采用 Xilinx 公司的 ZYNQ7000 系列的 XC7Z020，具体型号为 XC7Z020CLG400-2。ZYNQ 分为 PS（Processing System）和 PL（Programmable Logic）两部分。 PL 部分拥有 85K 个逻辑单元、4.9Mbits 的嵌入式存储资源、220 个 DSP 单元、4 个时钟管理单元（CMT）、 16 个全局时钟网络、6 个用户 I/O BANK 和最大 253 个用户 I/O，是一款非常具有性价比的芯片。
2022-02-12 20:54:02
12398
原创 开发板核心板原理图
核心板电源ZYNQ-7020/ZYNQ-7010 核心板的电源来自底板转接板 IO 上的 5V 电源引脚，核心板电源拓扑结构如 下图与底板相比，核心板需要的电源数量更多，包括 1.0V、1.8V、1.5V、3.3V 以及 VCCO 3.3V。DC-DC 芯片 TLV62130RGT 负责将+5V 电压转换为 1.0V、1.8V、1.5V、3.3V，LDO 芯片SPX3819M5-3-3 负责将+5V 电 压转换为 3.3V，专门给 ZYNQ 的 BANK35 提供电源，如果大家想 BANK35 工作
2022-02-11 22:37:40
3401
原创 开发板底板原理图
底板电源 底板电源拓扑结构如下整个板子的电源来自电源适配器的 12V 供电电压，经过 DC-DC 芯片（型号为 JW50690T_6）之后，转 变为系统+5V 电压，再经过电源开关后，给系统供电，核心板的电源就来自系统+5V 电压。PS 端 USB 串口 的+5V 也可以用来给系统供电，但是需要特别注意，由于 USB 接口的驱动能力有限，所以不能驱动供电电 流需求大的器件如 LCD，这种情况下，请改用电源适配器供电。系统+5V 电压除了直接驱动某些外设之外， 还用于电压转换，LDO（线性稳..
2022-02-10 21:29:29
6410
原创 硬件资源详解
需要说明的是，XC7Z020芯片比XC7Z010芯片多出一个BANK13，为了使这两颗芯片的引脚完全兼容，XC7Z020芯片的BANK13没有连接到任何硬件外设。启明星 ZYNQ 的 IO 分配ZYNQ-7020 核心板的主控芯片为 XC7Z020CLG400-2，ZYNQ-7010 核心板的主控芯片为 XC7Z010CLG400-1。XC7Z020 芯片比 XC7Z010 芯片多出一个 BANK，即 BANK13。为了使 ZYNQ-7020 核心板和 ZYNQ-7010 核心板的引脚完全.
2022-02-09 23:09:24
5206
原创 启明星 ZYNQ 开发板实验平台简介
启明星开发板底板资源启明星开发板核心板资源启明星 ZYNQ 开发板资源说明启明星 ZYNQ 开发板 PL 端的例程列表如下表所示：启明星 ZYNQ 开发板 PS 端的例程列表如下表所示： ...
2022-02-08 21:42:09
1208
原创 ZYNQ PS 简介
ZYNQ 实际上是一个以处理器为核 心的系统，PL 只是它的一个外设。Zynq-7000 系列的亮点在于它包含了完整的 ARM 处理器系统，且处理器 系统中集成了内存控制器和大量的外设，使 Cortex-A9 处理器可以完全独立于可编程逻辑单元。而且实际上 在 ZYNQ 中，PL 和 PS 两部分的供电电路是独立的，这样 PS 或 PL 部分不被使用的话就可以被断电。 在前面我们介绍 SOPC 时提到过，FPGA 可以用来搭建嵌入式处理器，像 Xilinx 的 MicroBlaze 处理器 或者 A..
2022-02-06 20:17:14
929
原创 FPGA用途
FPGA 的用途 在介绍 FPGA 的用途之前，先给大家讲一个笑话： 话说一个资深工程师出国的时候带了一块 FPGA 开发板。 海关问道：“这是什么东西？” 工程师说：“FPGA 开发板”。 海关又问：“FPGA 是什么？”。 工程师回答说：“你想让它是什么，它就是什么（It can be whatever you want）” 能看懂这个笑话就说明你已经对 FPGA 有了一定的了解。作为一种可编程器件，FPGA 能实现任何数字 器件的功能，上至高性能 CPU，下至简单的 74.
2022-02-05 20:54:31
7868
原创 考核题一：小乌龟爬行
代码如下：import turtleturtle.shape('turtle')import time turtle.speed(5) turtle.penup() turtle.left(90) turtle.fd(200) turtle.pendown() turtle.right(90) turtle.fillcolor("red") turtle.begin_fill() turtle.circle(10,180) t.
2022-02-03 21:17:01
152
原创 开发板学习
FPGA 简介通过前面的介绍，我们知道 ZYNQ 中集成了 ARM 处理器与 FPGA。ZYNQ 作为一款全可编程 SoC，其 FPGA 的硬件可编程性功不可没。那么 FPGA 是什么呢，它的灵活性又从何而来呢？ 1） 数字集成电路的发展 在数字集成电路中，门电路是最基本的逻辑单元，用以实现最基本的逻辑运算（与、或、非）和复合 逻辑运算（与非、异或等）。与上述逻辑运算相对应，常用的门电路有与门、或门、非门、与非门、异或 门等，其电路符号如下图所示： ...
2022-02-02 16:38:19
618
原创 ZYNQ笔记
ZYNQ 是赛灵思公司（Xilinx）推出的新一代全可编程片上系统（APSoC），它将处理器的软件可编程 性与 FPGA 的硬件可编程性进行完美整合，以提供无与伦比的系统性能、灵活性与可扩展性。与传统 SoC 解决方案不同的是，高度灵活的可编程逻辑（FPGA）可以实现系统的优化和差异化，允许添加定制外设与 加速器，从而适应各种广泛的应用。 ZYNQ 简介Zynq-7000 系列是 Xilinx 于 2010 年 4 月推出的行业第一个可扩展处理平台，旨在为视频监视、汽车驾 驶员辅助
2022-01-29 21:13:29
197
原创 莫比乌斯反演
为了遇见灯下女孩：莫比乌斯简介：莫比乌斯证明：题目：（从牛客某题目上扒下来的题目）证明：莫比乌斯代码模板：以上是关于莫比乌斯反演的介绍，多练题，早掌握。...
2022-01-27 22:29:16
428
1
原创 FPGA开发板学习（1）
FPGA:FPGA（Field－Programmable Gate Array）， 即现场可编程门阵列，它是在PAL、GAL、CPLD等可编程器件的基础上进一步发展的产物。它是作为专用集成电路(ASIC)领域中的一种半定制电路而出现的，既解决了定制电路的不足，又克服了原有可编程器件门电路数有限的缺点。FPGA工作原理：FPGA采用了逻辑单元阵列LCA(Logic Cell Array)这样一个概念，内部包括可配置逻辑模块CLB(Configurable Logic Block)、输出输入模块I...
2022-01-26 21:41:07
743
原创 基础算法（1）数据结构
作为要饭的（acmer）算法才是第一条路一.链表：图示理解：代码：单链表：// head存储链表头，e[]存储节点的值，ne[]存储节点的next指针，idx表示当前用到了哪个节点int head, e[N], ne[N], idx;// 初始化void init(){ head = -1; idx = 0;}// 在链表头插入一个数avoid insert(int a){ e[idx] = a, ne[idx] = head, head =
2022-01-25 00:27:50
256
1
原创 Linux预学习
1. 计算机硬件软件体系1.1. 冯 诺依曼体系结构计算机处理的数据和指令一律用二进制数表示顺序执行程序计算机硬件由运算器、控制器、存储器、输入设备和输出设备五大部分组成1.2. 计算机硬件组成输入设备输入设备用来将人们熟悉的信息形式转换为机器能够识别的信息形式常见的有键盘，鼠标等输出设备输出设备可以将机器运算结果转换为人们熟悉的信息形式打印机输出，显示器输出等存储器存储器用来存放数据和程序RAM(random access memory ）即随机存储 内存 :速度.
2022-01-21 22:41:54
146
原创 linux的预学习
1. 计算机硬件软件体系 1.1. 冯 诺依曼体系结构 计算机处理的数据和指令一律用二进制数表示 顺序执行程序 计算机硬件由运算器、控制器、存储器、输入设备和输出设备五大部分组成 1.2. 计算机硬件组成 输入设备 输入设备用来将人们熟悉的信息形式转换为机器能够识别的信息形式 常见的有键盘，鼠标等 输出设备 输出设备可以将机器运算结果转换为人们熟悉的信息形式 打印机输出，显示器输出等 存储器 存储器用来存放数据和程序 RAM(random a.
2022-01-21 21:48:46
79
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人