学习笔记
文章平均质量分 84
M1911616095
这个作者很懒,什么都没留下…
展开
-
Logistic回归与最大熵模型
Logistic回归与最大熵模型算法介绍逻辑斯谛分布二项logistic回归模型算法介绍1.逻辑斯谛回归(logistic regression)是统计学习中的经典分类方法。最大熵是概率模型学习的一个准则,将其推广到分类问题得到最大熵模型(maximum entropy model)。逻辑斯谛回归模型与最大熵模型都属于对数线性模型。本章首先介绍逻辑斯 谛回归模型,然后介绍最大熵模型,最后讲述逻辑斯谛回归与最大熵模型的学习算法, 包括改进的迭代尺度算法和拟牛顿法。逻辑斯谛分布1.设XXX是连续随机变量原创 2021-12-31 00:41:26 · 1264 阅读 · 0 评论 -
【决策树】
统计学-决策树算法学习决策树原理决策树学习算法:习题5.1习题5.2决策树原理1.决策树算法模型:决策树模型是运用于分类以及回归的一种树结构。决策树由节点和有向边组成,一般一棵决策树包含一个根节点、若干内部节点和若干叶节点。决策树的决策过程需要从决策树的根节点开始,待测数据与决策树中的特征节点进行比较,并按照比较结果选择选择下一比较分支,直到叶子节点作为最终的决策结果。(1).内部节点:对应于一个属性测试(2).叶节点:对应于决策结果(3).根节点包含样本全集;(4).每个节点包括的样本集合根原创 2021-12-28 00:08:00 · 1582 阅读 · 0 评论 -
【感知机学习】
统计学-感知机的学习感知机算法的原始公式感知机算法的原始公式1.感知机学习算法是一种最优问题的算法,假设给定的一个数据训练集KKK,如下:K=(x1,y1),(x2,y2).....(xi,yi)i∈NK={(x_1,y_1),(x_2,y_2).....(x_i,y_i) i∈N}K=(x1,y1),(x2,y2).....(xi,yi)i∈N确定损 失函数基本形式,xi∈=Rn,yi∈y=−1,1,i=1,2..Nx_i∈=R^n,y_i∈y={-1,1},i=1,2..Nxi∈原创 2021-12-18 23:35:37 · 189 阅读 · 0 评论 -
【统计学的学习方法论】
统计学统计学的学习步骤模型学习基本策略的学习二级目录损失函数的定义统计学的学习步骤模型学习基本策略的学习二级目录损失函数的定义原创 2021-12-14 23:11:08 · 729 阅读 · 0 评论 -
2021-07-29
支持向量机算法原理超平面几何间隔支持向量机算法原理1.从几何角度,对于线性可分数据集,支持向量机就是找距离正负样本都是最远的超平面,相比于感知机,其解是惟一的,且不偏不倚,泛化性能好n维空间的超平面(wTx+b=0,其中w,x∈Rnw^Tx+b=0,其中w,x∈R^nwTx+b=0,其中w,x∈Rn)1.超平面方程不唯一2.法向量www和位移项b确定一个惟一的超平面3.法向量www垂直于超平面(缩放w,bw,bw,b时,若缩放倍数为负数会改变法向量方向)4.法向量www指向的那一半空间,另一半原创 2021-07-30 00:04:12 · 157 阅读 · 0 评论 -
2021-07-25
神经网络M-P神经元感知机感知机神经网络M-P神经元1.M-P神经元(模拟生物行为的数学模型):接手n个输入(来自其他的神经元),并给各个输入赋予权重计算加权和,再跟自己特有的阀值θθθ比较(通常用减法),最后经过激活函数(模拟“抑制”和激活)处理得到输出(一般输出传给下个神经元)y=f(∑x=1nwixi−θ)=f(wTx+b)y=f(\sum\limits_{x=1}^nw_ix_i-θ)=f(w^Tx+b)y=f(x=1∑nwixi−θ)=f(wTx+b)单个M-P神经元:感知机(sgn原创 2021-07-25 23:26:05 · 179 阅读 · 0 评论 -
2021-07-22
决策树信息熵自信息ID3决策树算法原理C4.5决策树CART决策树信息熵自信息一、I(X)=−logbp(x)I(X)=-log_bp(x)I(X)=−logbp(x)当b=2时,其单位为比特,当b=e时,其单位为nat信息熵(自由信息的期望):度量随机变量XXX的不确定性,信息熵越大越不确定H(X)=E[I(X)]=−∑xp(x)logbp(x)H(X)=E[I(X)]=-\sum\limits_{x}p(x)log_bp(x)H(X)=E[I(X)]=−x∑p(x)logbp(x)原创 2021-07-23 00:24:24 · 366 阅读 · 1 评论 -
一元线性回归
一元线性回归文章目录一元线性回归算法原理求解ω和b线性回归的最小乘估计和极大似然估计基于均方误差最小化来进行模型求解(最小二乘法)极大自然估计算法原理1.首先举个例子,通过发际线来预测一个人的计算机水平其中正常的预测方程表达为:y=ωx+b推广:1.加上两个值特征,分别为0,1f(x)=ω1x1+w2x2+bf(x)=ω_1x_1+w_2x_2+bf(x)=ω1x1+w2x2+b2.有序的多值离散特征(黄:1,蓝:2,红:3)f(x)=w1x1+w2x2+w3x3+bf(x)=w原创 2021-07-18 10:57:51 · 287 阅读 · 0 评论 -
2021-02-14
对象引用,可变性和垃圾回收变量标识,示例一:变量a和b引用同一个列表,不是那个列表的副本。a=[1,2,3]b=aa.append(4)print(b)#输出的 结果为列表a的内容结果解析:只有列表a,b只同一个对象时,才能得出 以上结果。示例二:创建对象之后,才会把变量分配给对象。...原创 2021-02-14 23:41:05 · 258 阅读 · 2 评论 -
2020-12-23
并发编程12.1 并发与并行Erlang 之父 Joe Armstrong曾经以下图解释并发与并行。并发在图中的解释是两队人排队接咖啡,两队切换。并行是两个咖啡机,两队人同时接咖啡。“Concurrency is about dealing with lots of things at once. Parallelism is about doing lots of things at once.” — Rob Pike并发使并行变得容易,并发提供了一种构造解决方案的方法,并行一般伴随这多核。并原创 2020-12-23 15:06:45 · 159 阅读 · 0 评论 -
2020-12-14
包管理8.1 Go Modules是什么?Go语言通过包管理来封装模块和复用代码,这里我们只介绍Go Modules管理方法Go Modules于Go语言1.11版本时引入,在1.12版本正式支持,是由Go语言官方提供的包管理解决方案Modules是相关Go包的集合,是源代码交换和版本控制的单元。go命令直接支持使用Modules,包括记录和解析对其他模块的依赖性8.2 Go Modules的使用方法8.2.1 环境变量首先需要设置环境变量,可以使用go env命令查看当前配置。$ go e原创 2020-12-14 17:13:12 · 302 阅读 · 0 评论 -
2020-12-14
结构体、方法、接口7.1.结构体Go 语言中没有“类”的概念,也不支持像继承这种面向对象的概念。但是Go 语言的结构体与“类”都是复合结构体,而且Go 语言中结构体的组合方式比面向对象具有更高的扩展性和灵活性。7.1.1 结构体定义结构体一般定义如下:type identifier struct {field1 type1field2 type2…}例如我们想声明一个学生的结构体类型:type Student struct {Name stringAge int}结构体中字段的原创 2020-12-14 17:10:45 · 222 阅读 · 0 评论 -
2020-12-14
函数6.1 函数定义在go语言中函数定义格式如下:func functionName([parameter list]) [returnTypes]{//body}函数由func关键字进行声明。functionName:代表函数名。parameter list:代表参数列表,函数的参数是可选的,可以包含参数也可以不包含参数。returnTypes:返回值类型,返回值是可选的,可以有返回值,也可以没有返回值。body:用于写函数的具体逻辑例1:下面的函数是用于求两个数的和func G原创 2020-12-14 17:07:40 · 214 阅读 · 0 评论 -
2020-12-14
数组、切片5.1 数组5.1.1 如何定义数组数组是具有相同类型且长度固定的一组连续数据。在go语言中我们可以使用如下几种方式来定义数组。//方式一var arr1 = [5]int{}//方式二var arr2 = [5]int{1,2,3,4,5}//方式三var arr3 = [5]int{3:10}输出以上三个变量的值如下所示:arr1 [0 0 0 0 0]arr2 [1 2 3 4 5]arr3 [0 0 0 10 0]方法一在声明时没有为其指定初值,所以数组内的值被原创 2020-12-14 17:05:20 · 104 阅读 · 0 评论 -
2020-12-14
运算符、控制语句3.1 运算符假定 A 值为 10,B 值为 20。3.1.1 算数运算符运算符 描述 实例相加 A + B 输出结果 30相减 A - B 输出结果 -10相乘 A * B 输出结果 200/ 相除 B / A 输出结果 2% 求余 B % A 输出结果 0++ 自增 A++ 输出结果 11– 自减 A-- 输出结果 93.1.2 关系运算符运算符 描述== 检查两个值是否相等,如果相等返回 True 否则返回 False。!= 检查两个值是否不相等原创 2020-12-14 17:02:38 · 100 阅读 · 0 评论 -
2020-12-14
go语言关键字符1.数据类型、关键字、标识符1.1 数据类型1.1.1 按类别布尔型:只可以是常量 true 或者 false。eg:var b bool = true数字类型:整型和浮点型。位的运算采用补码字符串类型:字符串就是一串固定长度的字符连接起来的字符序列,Go 的字符串是由单个字节连接起来。Go 语言的字符串的字节使用 UTF-8 编码标识 Unicode 文本复数:complex128(64 位实数和虚数)和 complex64(32 位实数和虚数),其中 complex1原创 2020-12-14 16:58:58 · 84 阅读 · 0 评论 -
2020-11-27
统计相关次序统计numpy.random.choice(a, size=None, replace=True, p=None) Generates a random sample from a given 1-D array例:利用一个numpy计算值。x=np.array([[11, 12, 13, 14, 15], [16, 17, 18, 19, 20], [21, 22, 23, 24, 25], [26, 27,原创 2020-11-27 22:24:54 · 148 阅读 · 0 评论 -
HOG特征描述算子-行人检测
HOG特征描述算子-行人检测简介与说明HOG特征HOG特征简介HOG特征的原理图像预处理计算图像梯度Block 归一化获得HOG描述子经验总结简介与说明今次学习主要与一种在深度学习的图像特征提取技术——方向梯度直方图,为HOG特征,曾发表于CVPR的会议上,对手工图像特征的 方面有非常重要作用。被广泛用于行人检测领域。HOG特征HOG特征简介HOG特征属于图像提取的局部特征。对图像局部的梯度幅值和方向进行投票统计。形成基于梯度特性的直方图,然后将局部特征拼接起来作为总特征。局部特征在这里指的是将图像原创 2020-07-06 22:56:42 · 719 阅读 · 0 评论 -
Haar特征描述算子-人脸检测
Haar特征描述算子-人脸检测笔记Haar特征描述算子重点内容算法理论简介Haar-like特征的计算—积分图计算Haar特征值Haar特征值归一化(也可以采用标准归一化)Adaboost级联分类器级联分类器级联分类器的训练级联分类器的检测学习分享与总结Haar特征描述算子在AdaBoost算法的基础上,使用Haar-like小波特征和积分图方法进行人脸检测,需要补充说明,小波特征不是由Viola和Jones这两位大神完成的,经由他们设计的人脸检测更为有效,在此基础上,他们继续探索AdaBoost,进行原创 2020-07-02 10:08:59 · 442 阅读 · 0 评论 -
LBP特征描述算子-人脸检测学习笔记
LBP特征描述算子-人脸检测学习笔记LBP特征算子原理介绍人脸特征检测算法原理1.混合模式1.圆形LBP算子2.LBP旋转不变性及等价模式2.混合模式基于opencv实现人脸检测过程人脸检测结果演示LBP特征算子原理介绍LBP指局部 0,1二值模式,属于用来扫描图片的一种 特征算子,在 灰度不变性,旋转不变性方面具有显著的特点,通常检测图片里人脸局部特征时,基于opencv下使用LBP算子实现人脸特征识别,还可以将LBP具有的特征用于训练目标检测分类器。需要了解,LBP用于opencv计算的时候,不能提原创 2020-06-28 21:04:19 · 764 阅读 · 0 评论 -
标题Harris特征点检测器-兴趣点检测
@## 标题Harris特征点检测器-兴趣点检测特征点检测简介在图像处理领域中,特征点又被称为兴趣点或者角点,它通常具有旋转不变性和光照不变性和视角不变性等优点,是图像的重要特征之一,如标志点,角点,极端点等作为特征点,可以作为图像目标快速检测的标志,常用的有Harris角点检测、FAST特征检测、SIFT特征检测及SURF特征检测Harris角点检测算法原理算法的核心是利用局部窗口在图像上进行移动,判断灰度是否发生较大的变化。如果窗口内的灰度值(在梯度图上)都有较大的变化,那么这个窗口所在区域就存原创 2020-06-25 08:24:47 · 57 阅读 · 0 评论