- 博客(24)
- 收藏
- 关注
原创 2021-09-05 《统计学习方法》学习笔记 感知机perceptron
《统计学习方法》学习笔记 感知机perceptron一、感知机模型1.定义2.几何解释二、感知机学习策略1.数据集的线性可分性2.感知机学习策略三、感知机学习算法1.感知机学习算法的原始形式2.算法的收敛性3.感知机学习算法的对偶形式感知机(perceptron)是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1二值。感知机对应于输入空间中将实例划分为正负两类的分离超平面,属于判别模型。一、感知机模型1.定义假设输入空间是χ⊆Rn\chi \subseteq R
2021-09-05 15:22:21 219
原创 2021-09-04 深度学习基础与实践(八)
深度学习基础与实践(八)CNN卷积神经网络1.卷积2.CNN卷积神经网络3.CNN特点介绍(1)局部卷积(2)参数共享(3)多卷积核(4)池化操作(5)多层处理好久不见!我又肥来啦!接着上一次的内容,我们聊到了RNN及RNN的一些变体的相关知识,那再讲了RNN,我们再来简单聊一下CNN吧!CNN卷积神经网络1.卷积首先,想要了解什么是卷积神经网络,这其中“卷积”二字可以说是囊括了CNN的主要思路与内涵。如果我们就按照 “给定输入,经过卷积步骤,得到输出” 的形式来理解的话,我们先举一个机器视觉
2021-09-04 14:30:55 256 1
原创 2021-07-27 深度学习基础与实践(七)
RNN循环神经网络&拓展长短时记忆网络LSTM及其变体一、RNN循环神经网络1.RNN的背景2.RNN的结构二、长短时记忆网络LSTM1.背景2.RNN的梯度消失/爆炸3.LSTM结构三、LSTM的变体1.peephole connection2.耦合(coupled)遗忘和输入单元3.GRU一、RNN循环神经网络1.RNN的背景RNN循环神经网络是在自然语言处理中常见的处理工具和手段不知道大家通过学习了解了普通的神经网络之后再来接触RNN会不会有一个疑问,就是感觉RNN不就是一般的
2021-07-27 21:25:03 673 1
原创 2021-07-26 NLP词嵌入
NLP词嵌入一、词嵌入背景二、词嵌入方法介绍1.词的独热表示(1)one-hot编码转换(2)Bag of Word模型(BOW)2.词的分布式表示(1)Word2Vec模型Skip-Gram模型CBOW模型比较Skip-Gram与CBOW(2)GloVe词向量模型一、词嵌入背景在做一些自然语言处理的相关问题时,我们可能不由的会产生一个疑惑,好好的一句话或者一个字或词是怎么被计算机处理的呢?因为,毕竟文字和单词等等都是人类智慧的一种抽象结晶,那当然计算机无法直接对文字进行处理,这个时候就需要我们先对文
2021-07-26 11:32:12 401 1
原创 2021-07-23 深度学习基础与实践(六)
深度学习基础与实践(六)一、信息熵1.信息熵2.交叉熵3.相对熵KL散度4.JS散度5.联合熵6.条件熵7.互信息8.文氏图图解二、反向传播中的梯度三、感知机(Perceptron)今天再来介绍一些概念性知识一、信息熵热力学中的熵: 是表示分子状态混乱程度的物理量信息论中的熵:用来描述信源的不确定性的大小经常使用的熵概念有下列几种:信息熵交叉熵相对熵条件熵互信息1.信息熵信源信息的不确定性函数fff通常满足两个条件:是概率ppp的单调递减函数两个独立符号所产生的不确定性
2021-07-23 20:33:49 387
原创 2021-07-21 Python笔记 循环
Python笔记 循环一、for-loop1.基本语法2.range()二、while-loop1.基本语法2.while & else三、两者区分python中的循环就只有两种形式:for & while一、for-loop1.基本语法例:for name in ["Tommy", "Ben"]: print(name)输出结果:2.range()如果我想要指定循环的次数,就可以使用内置函数range()range()会自动为你创建一个整数列表例:
2021-07-21 20:35:06 108
原创 2021-07-20 深度学习基础与实践(五)
深度学习基础与实践(五)一、多元回归1.多元线性回归2.R方二、多项式回归1.多项式模型2.多项式回归步骤3.二次回归4.更高次的回归三、过拟合1.过拟合2.应对过拟合一、多元回归1.多元线性回归2.R方R方可以用于评估回归模型对现实数据拟合的程度。举例:设yiy_iyi是测试集第iii个样本的价格,yˉ\bar yyˉ是真实价格的均值,f(xi)f(x_i)f(xi)是模型对第iii个样本的预测价格,nnn是样本数量。则R方计算步骤为:计算残差(估计值与实际观察值之间
2021-07-20 21:33:05 292 1
原创 2021-07-20 深度学习基础与实践(四)
深度学习基础与实践(四)一、线性回归模型1.什么是回归2.回归VS分类3.线性模型4.非线性模型5.线性回归6.概率解释7.求解参数二、线性回归模型的求解方法1.矩阵解法2.梯度下降法一、线性回归模型1.什么是回归2.回归VS分类区别:分类:使用训练集推断输入x所对应地离散类型(如:+1,-1)回归:使用训练集推断输入x所对应额输出值,为连续实数联系:利用回归模型进行分类:可将回归模型地输出离散化以进行分类利用分类模型进行回归:也可利用分类模型的特点,输出其连续化的数值3
2021-07-20 19:11:15 207
原创 2021-07-17 深度学习基础与实践(三)
深度学习基础与实践(三)一、特征工程二、向量空间模型三、特征处理1.特征值的缩放1.标准化法一、特征工程我们老师给我们讲过这样一句话:“数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限而已。”深度学习也要用到特征,需要对输入的特征进行组合变换等处理。举例:以特征处理在nlp(自然语言处理)中的应用为例自动分词:将用自然语言书写的文章、句段经计算机处理后,以词为单位给以输出,为后续加工处理提供先决条件。词根提取与词形还原:抽取词的词干或词根形式与把词汇还原为一般形式词
2021-07-17 22:57:16 223 1
原创 2021-07-17 Python笔记 如何理解Numpy数组中的axis?
Python笔记 如何理解Numpy数组中的axis?博主对axis的理解可能也不够深入,暂时只是一些实践后的简单总结,如果有描述错误,也请指正!下面就简单讲讲我的思路吧首先,我并不打算很执着地像大部分朋友一样非常强烈地想要搞清楚axis=0或axis=1与横、纵坐标的直接关系,因为我觉得这样的理解在数组维度较低的时候还可以适用,但是数组维度一高,就又会有经常混淆的情况出现。我的想法还是更倾向于数形结合去理解首先,axis的可能取值显然与数组的维度相关[0,dimmax−1][0, dim_{ma
2021-07-17 13:58:51 220 1
原创 2021-07-15 Python笔记 列表&数组&字典
Python笔记 列表List一、列表List1.简单介绍2.访问列表值3.列表的截取4.常见方法二、数组Array1.简单介绍2.常用方法3.list与array的差别三、字典Dictionary1.简单介绍2.访问字典值3.常见方法4.list与dictionary的差别一、列表List1.简单介绍列表是最常用的Python数据结构,它可以作为一个方括号内的逗号分隔值出现。列表中的各个元素不需要具有相同的类型。创建一个列表,只要把逗号分隔的不同的数据项使用方括号括起来即可。如下所示:na
2021-07-15 21:09:18 130 1
原创 2021-07-14 深度学习基础与实践(二)
深度学习基础与实践(二)一、分类及其性能度量1.分类问题2.分类性能度量(1)准确率(2)精确率和召回率(3)P-R曲线(4)F值(5)ROC曲线3.分类性能可视化(1)混淆矩阵的可视化(2)分类报告二、回归问题及其性能评价1.什么是回归2.回归性能度量方法(1)平均绝对误差MAE(2)均方差MSE(3)logistic回归损失(二类)(4)logistic回归损失(多类)三、一致性的评价方法一、分类及其性能度量1.分类问题分类问题是有监督学习的一个核心问题。分类解决的是要预测样本属于哪个或者哪
2021-07-14 15:16:59 248 3
原创 2021-07-13 深度学习基础与实践(一)
深度学习基础与实践(一)一、深度学习的引出1.机器学习2.深度学习3.后续安排二、数据集及其拆分&性能评价1.数据集的简单介绍2.数据集的拆分3.数据集的拆分方法(1)留出法( Hold‐Out Method )(2)k折交叉验证4.超参数&参数5.网格搜索调整超参数不出意外的话,《深度学习基础与实践》系列大约会更新八篇博客(一)至(八)博主本身也在一边学习一边总结,博文中难免会存在一些纰漏,也希望大家多多指点指正一、深度学习的引出1.机器学习在介绍深度学习之前,我们先来了解一下
2021-07-13 14:47:20 516 1
原创 2021-07-12 Python笔记 if条件判断
Python笔记 if条件判断1.if-else语句2.elif语句的配合3.elif的默认条件4."or"操作符5."in"操作符在某些时候我们会遇到这样的情况:只有当某个条件发生时我们才要执行这些代码,在其他的条件发生时我们要执行其他不同的代码这也就是为什么代码要有能具备处理条件的功能1.if-else语句"""你的代码需要有能力去执行不同的情况基于不同的条件在python中我们可以使用简单的if-else语句来实现"""price = int(input("The price is:
2021-07-12 22:32:16 111 1
原创 2021-07-11 Python笔记 Error类型
Python笔记 Error类型一、基本概念二、错误类型三、举例说明1.语法错误2.运行错误3.逻辑错误也许我们都有过相似的经历,被一些奇怪的错误折磨到抓耳挠腮,改一些bug直到深更半夜接下来就让我们谈谈不同类型的错误一、基本概念先出两个术语的概念——Error handling & DebuggingError handling:指代码运行时有问题,当我把代码放到生产环境后,是无法预测的Debugging:指我知道代码中有问题,存在出错的地方,我要找出哪里的错误导致代码出错,并尝试去修
2021-07-11 22:11:30 168 1
原创 2021-07-11 Python笔记 日期
Python笔记 日期一、当前日期/时间二、简单应用举例1.善用timedelta2.时间的格式显示3.datetime类型的转换4.日期中的异常处理我们已经使用过字符串了,用过数字了,我觉得现在应该是时候来学习“日期”了日期的使用经常会带来额外的麻烦,在任何编程语言中,日期都算难处理的一、当前日期/时间"""处理日期最普遍的操作就是,我们需要当前的日期和时间在记录错误或保存记录和数据时经常会用到,想要知道何时保存、记录写入或何时发生我们通过使用datetime库来调用当前日期(现在暂时还没
2021-07-11 19:58:09 228 1
原创 2021-07-11 Python笔记 字符串及其部分相关
Python笔记 字符串及其部分相关一、字符串的用法1.简单示例2.字符串拼接3.字符串变化4.结合用户输入二、格式化字符串三、数字与字符串的类型转换1.数字的简单示例2.数字的数学运算3.类型转换让我们看看编程中最常见的事——使用字符串谈到字符串,其实字符串可以是一个变量值得一提的是,在python中你不需要使用任何形式的关键字或其他方式来声明变量一、字符串的用法1.简单示例"""1.就像上一次讲的print函数中的包裹一样,字符串既可以用单引号包裹,也可以用双引号包裹 (建议不要养
2021-07-11 16:22:45 104
原创 2021-07-11 Python笔记 学会使用print函数
Python笔记 学会使用print函数一、简单实现二、引号包裹形式三、配合用户输入四、空行&换行五、配合print的代码调试其实之前在大一的暑假和大二的寒假的时候一直都有在学习python的相关知识,但那些时候心里一心想的是如何让项目(大一年度项目和大创)快速落地,态度和心情未免有些浮躁,python明明才学的堪堪入门,就跑去搞tensorflow和pytorch,不过这也说明python的上手难度确实不高。但是现在回过头来想一想,python的基础未免有些过于虚浮了,所以也打算好好静下心来把学
2021-07-11 11:24:30 133
原创 Java笔记 健壮性与正确性
Java笔记 健壮性与正确性一、健壮性与正确性1.1健壮性1.2正确性二、如何评价健壮性与正确性2.1外部观察角度2.2内部观察角度一、健壮性与正确性1.1健壮性定义:系统在不正常输入或不正常外部环境下仍能够表现正常的程度面向健壮性编程:处理未期望的行为和错误终止即使终止执行,也要准确/无歧义的向用户展示全面的错误信息错误信息有助于进行debug健壮性原则:Paranoia (偏执狂):总是假定用户恶意,假定自己的代码可能失败把用户想象成白痴,可能输入任何东西(返回给用户的错误
2021-07-05 20:59:32 326
原创 Java笔记 错误与异常处理
Java笔记 错误与异常处理一、Java中的错误和异常1.1 Throwable1.2 Error二、异常的处理2.1 异常按结构层次的分类2.2 异常按处理机制角度的分类2.2.1 Checked exception2.2.2 Unchecked exception三、checked异常的处理机制3.1 异常中的LSP原则3.2 利用throw抛出一个异常四、自定义异常一、Java中的错误和异常1.1 ThrowableThrowable 类是 Java 语言中所有错误或异常的超类继承的类:ex
2021-07-03 12:48:38 104
原创 Java笔记 ADT与OOP中的等价性
Java笔记 ADT与OOP中的等价性一、等价性equals()和"=="1.等价关系2.equals()方法与"=="3.instanceof二、hashCode()方法1.针对不可变类型2.针对可变类型3.equals()与hashcode()的比对一、等价性equals()和"=="1.等价关系等价关系是指对于关系E ⊆ T x T,满足:(1)自反性x.equals(x)必须返回true(2)对称性x.equals(y)与y.equals(x)的返回值必须相等(3)传递性若x.
2021-06-30 15:07:03 169
原创 Java笔记 JUnit实现自动化单元测试
Java笔记 JUnit实现自动化单元测试一、JUnit的基本概念1.JUnit简介2.PackageJUnit的配置二、JUnit测试用例中元素的简单说明1.@Test2.assert断言方法三、具体测试用例浅析1.Example 12.Example 2 (more complex)一、JUnit的基本概念1.JUnit简介JUnit是java语言中非常热门的一个单元测试的框架2.Packagejunit.framework ---------- for JUnit3.8org.junit
2021-06-28 14:28:41 1202 3
原创 HIT计算机系统CSAPP大作业
摘 要本文从普通的hello程序出发,展示了hello从.c文件如何通过预处理、编译、汇编、链接阶段转变为可执行文件的全过程。还介绍了hello进程在shell执行的过程,存储管理的过程,I/O处理的过程这些运行机制。关键词:计算机系统;P2P;O2O;第1章 概述1.1 Hello简介·P2P过程:P2P也就是From Program to Process的过程,也就是从程序到进程的过程。 Hello文件在经过以下四个阶段的流程后,就成为了我们所需要的目标可执行 文件。1.预处理:C预处理
2021-06-22 21:34:48 769
原创 Java笔记 I/O字符流 Reader之BufferedReader
Java笔记 I/O字符流 Reader之BufferedReader一、BufferedReader类的基本概念1.父类2.参数3.构造方法二、BufferedReader类的简单用法1.获取字符流2.创建BufferedReader对象3.关闭数据流4.简单示例一、BufferedReader类的基本概念1.父类BufferedReader类继承于Reader类public class BufferedReader extends Reader { ......}2.参数Buffere
2021-06-19 23:48:24 1248
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人