- 博客(21)
- 收藏
- 关注
RSS订阅原创 李宏毅机器学习笔记（8）：backpropagation
0 引言 回顾一下之前学习过的，在求解神经网络时，我们通常使用梯度下降算法进行求解。 首先，先自定义一组参数作为我们的起始值，之后计算我们需要使用的梯度，有了梯度之后就可以利用它进行迭代求解了，如图0-1。 显而易见的是，在一个神经网络中，可能参数数目成千上万，远超过我们的想象，那么这么庞大的计算量，我们就需要一些可以辅助我们的工具。backprop...
2020-02-04 16:38:21
872
原创 李宏毅机器学习笔记（7）：Deep Learning
1 前言 对于深度学习（神经网络）的应用，在目前这个时间段来说，使用对象，发展研究实在是太多了。这也可以算是这个时代非常热门的一项技术了。 这里可以看一下，图1-1了解下深度学习的历史上的起伏。图1-1 深度学习的历史上的起伏 可以看到58年提出感知机后由于有人提出了感知机受限后就冷下去了，后经历了一些起伏直到06年的RBM（受限玻尔兹曼机...
2020-02-01 13:24:45
367
原创 李宏毅机器学习笔记（6）：logistic Regression
这一部分是接着上一部分进行描述的，上一部分，我们把使用贝叶斯公式得到的结果推导，发现结果是一个线性的函数，我们针对这个函数，试试可不可以把这个函数求解出来。很容易发现，这是一个回归问题，我们就把他称作是逻辑回归，做这个回归问题一步一步来吧：1 模型选择 function set 首先我们还是需要选择合适的模型，确立我们的目标。 上一节了解了我们...
2020-01-30 20:30:07
590
原创 李宏毅机器学习笔记（5）： Classification：Probabilistic Generative Model
Classification：Probabilistic Generative Model分类问题属于比较常见的问题之一了，这次李老师讲的是一个比较基础的分类问题的模型，为了让我们对这个问题进一步了解，可以更好地继续学习。1 分类分类问题是通过对大量输入进行分析，寻找模型，将样本进行分类，从而之后输入的样本，可以分类到合适的类。这个问题还是很容易理解的，看例子：接下来对宝可梦的属性...
2020-01-26 15:16:09
491
原创 Matlab 3 ：矩阵下部分稀疏矩阵 结构体 元胞
1 稀疏矩阵1.1 什么是稀疏矩阵呢 一些矩阵中的大量元素为0元素，我们可以称为稀疏矩阵sparse matrix，与之相反的我们叫做全矩阵。MATLAB的矩阵有两种存储方式：完全存储方式和稀疏存储方式。完全存储方式完全存储方式是将矩阵的全部元素存储，以前讲到的矩阵存储方式都是按这个方式存储的。稀疏存储方式稀疏存储方式仅存储矩阵所有的非零元素的值及其在矩阵中...
2020-01-17 17:13:28
501
原创 latex超级基础的文档手册——第六部分：自定义，重定义
1.latex中的自定义指令在latex中，有大量的指令，环境，当我们对一些指令不知道，查资料以及查手册是非常有效的。除了大量的指令可以使用外，我们还可以进行自己去定义自己要用的指令。自定义指令需要在导言区进行设置，使用指令：\newcommand\指令名[输入参数个数]{指令内容}我们来看这条指令，其实就像是各个编程语言的函数类似，自定义指令也是如此啊。指令名是自定义指令的名...
2020-01-14 20:21:19
3909
原创 latex超级基础的文档手册——第五部分：两种参考文献的制作方法
通常我们使用latex进行参考文献的输入是有很多种方法的。1 不使用BibTeX 对文献排版来说，我们需要使用一个新的环境，thebibliography，这个环境后可以跟一个参数，这个参数为数字，表示文献的最大数目。如下： \begin{thebibliography}{10} %最大容纳10条文献 之后在这个...
2020-01-14 17:28:55
693
原创 latex超级基础的文档手册——第四部分：公式排版，多行公式，分段函数
1．latex 中的多个多行数学公式为了使用多行数学公式，我们首先需要引入amsmath与amssymb宏，并使用gather或者gather*环境进行多行公式的使用，不同公式之间使用\\分割。其中gather会对公式进行自动标号，而gather*不可以，其实相信大家已经看出来了，环境名后加上*则意思该环境不会对公式进行编号，之后的其他环境也是一样。\usepackage{amsmath}...
2020-01-13 17:54:43
3275
原创 latex超级基础的文档手册——第三部分：浮动体、数学公式、矩阵输入
1 latex 中的浮动体上篇文我们介绍了表格和图片如何使用的基本操作，但在实际使用时，很多表格或图片所占空间不合理（也可能是其他内容），过大或位置不理想。于是，我们就要使用latex中的浮动体。浮动体可以理解为是一个容器，这个容器是不可以被分页的，将图或表格放在其中更有效于排版，更好操作。当然，浮动体也有自己的编号（方便引用），自己的名字（表格名或图名）。浮动体使用的指令如下：...
2020-01-13 12:23:05
1178
原创 latex超级基础的文档手册——第二部分：符号、图片、表格
1 latex 中的特殊字符 在我们进行排版时，latex为我们提供了一些特殊字符供我们使用。主要有空白字符、控制符、排版符号、标志符号、引号、连字符、非英文字符、重音符号。1.1 空白字符空白字符即为空格,latex中产生空格有相应的命令。注意以下几点：latex中的空格在英文之间输入时，不管空格数量多少，都只会出现一个空格。 中文之间输入时，之间的空格会被忽...
2020-01-11 13:44:52
1390
原创 latex超级基础的文档手册，可学可查——第一部分：基本结构、中文处理、字体设置、章节设置
1 latex 源文件的基本结构 latex文档分为导言区和正文区，其中导言区主要是作为声明文章的基本参数，比如文章类型，文章作者，格式等文章的基本要素。而正文区主要是作为撰写文章内容的部分。如图1-1。图1-1(1) 样例图1-1(2) 样例的编译结果(pdf形式) 导言区通常是在\document之后声明文章参数，\title表示文章...
2019-12-31 11:16:11
1425
原创 DSP学习笔记（三）——TMS320F28335硬件结构
第二章 TMS320F28335 硬件结构1 TMS320F28335 硬件概述Tms320f28335主要有8个部分组成，由32位的cpu内核、集成内存、总线、DMA、DMA总线、中断管理、控制率加速器、外设总线、外设等部分。总线为哈佛结构，cpu可在一个时钟周期完成对数据存储器与程序存储器的访问。DMA总线，可以使特定模块直接与内存交换数据，不过cpu。2 cpu架构2...
2019-06-13 13:18:02
31616
原创 李宏毅机器学习笔记（4）： Gradient descent
这次主要是聊梯度下降的细节与技巧，上次讲过了梯度下降的步骤。1 回顾还记着之前提到过的吗，梯度下降可以在复杂庞大的数据中寻找局部最优解，对loss function处理中有比较好的应用。我们需要对参数进行处理，可以使用梯度下降法。再重温梯度下降过程吧（具体可以看第二篇回归）：实际的要求是寻找一组参数，需要损失函数达到最小值：θ=argminL(θ)...
2019-05-27 20:36:20
380
原创 DSP学习笔记（二）——DSP中浮点数与定点数格式与运算处理
DSP学习笔记（二）——DSP中浮点数与定点数格式与处理1 DSP中的数据表述DSP中数据通常是有定点数与浮点数表示，其中可以对字长进行相关定义，可以选取字长为16位、24位、32位不同字长使用。而格式与字长决定了数据的精度与动态范围，同时也一定程度上决定了DSP处理器的功耗、成本与编程难度。定点数：小数点位置为确定的。浮点数：小数点位置可以改变。定点运算的硬件实现较为简单，功...
2019-05-26 13:21:34
12396
原创 DSP学习笔记（一）——DSP概述
DSP学习笔记（一）——DSP概述本笔记为本人在大三期间学习dsp时的笔记，感谢西北工业大学航海学院刘建国老师在我学习时的指导与帮助。本章主要是讲述了DSP的基本概述与基本知识。1 什么是数字信号处理器先说一下一些常见的英文缩写：CPU ：Central Processing UnitMCU ：Micro Control UnitSCMC ：Sing...
2019-05-22 14:28:17
13147
原创 Verilog与FPGA数字系统设计学习笔记（一）——EDA技术概述与fpga概述
第一章 EDA技术概述与fpga概述本笔记是我在大三时期（2019年）学习fpga与verilog的学习笔记，在此首先感谢西北工业大学航海学院刘建国老师对我的教学与学习过程中的支持与关注，在此十分感谢！本文仅为概述与学习笔记，仅为个人学习所用。1 EDA技术EDA技术，电子设计自动化缩写（Electronics Design Automation），以计算机为平台，以EDA软件...
2019-05-16 20:41:06
2774
原创 李宏毅机器学习笔记（3）： error
这一讲主要聊的是误差到底是从哪里来的，误差主要来源于两个地方，即w和b，这两个参数其实也代表了上一讲提到过的回归模型。通过了解误差的来源，我们可以提升模型。这节课大量知识都是概率论中学的，很基础很有趣。1 初步分析不同的model会产生不同的error，很多时候，更复杂的model会产生更复杂的error。error来源：变量与偏差。我们不知道实际情况下模型到底是...
2019-05-09 14:27:20
306
原创 李宏毅机器学习笔记（2）： Regression
Regression : output a scalar 输出一个标量在机器学习基础的模型中，回归算是一个很多课程引入学习的一个模型了，它可以让我们初步的去了解机器学习的过程。1 例子以下是李宏毅老师提到的例子：股票市场预测：通过输入各种股票市场参数：输出数字无人车驾驶：输入车上传感器参数：输出方向盘角度商品 推荐：使用者特征，商品特征：输出购买可能性可以看出，回...
2019-05-06 21:45:51
293
原创 Matlab 2 ：矩阵上部分常用操作、变量与矩阵操作
Matlab第二周 常用操作、变量与矩阵操作1 常用操作1.2 matlab工具窗常用指令/按键 指令名 用途 quit 关闭退出matlab clc 清除matlab工作窗内容 clf ...
2019-05-05 22:48:19
3394
原创 Matlab 1:界面
Matlab 第一周课程安排1.操作基础：安装，概述，环境，帮助系统2.矩阵及其运算3.绘图操作4.程序流程控制5.文件操作6.数据分析与多项式计算（信息专业）7.解方程与函数极值8.积分与微分，符号计算（求极限）9.图像句柄10.GUI设计11.Simulink仿真集成设计（控制专业）（word/Latex下使用matlab，bp神经网络...
2019-05-04 19:07:21
1756
原创 李宏毅机器学习课程笔记（1）: 机器学习概述
（1950年提出）人工智能是我们希望达成的目标，希望机器可以和人一样智能，而机器学习是实现人工智能的一种方式，而深度学习是机器学习中的一种方式，深度学习主要指的是基于机器学习中神经网络的各种模型。 下面介绍几种为了实现人工智能的方式：hand-crafted rules人工智能：早期的人工智能，其本质就是通过许多if判断语句去实现，通俗的讲就是用大量的判断语句，...
2019-04-30 16:24:23
547
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人