机器学习
BatFor、布衣
hello
展开
-
机器学习——逻辑回归
前言本次从概率统计角度来记录一下关于逻辑回归算法的理解。首先通俗的介绍一下极大似然估计概念。极大似然估计上面给出的文章中已经通俗的介绍了什么是极大似然估计,总结一下就是:事先已经知道了此样本属于何种分布(如正态/高斯分布、二项分布等),从而了解此样本的概率分布函数,但其中的具体参数还不知悉。求出使给出样本的联合概率最大的参数。逻辑回归(二分类)概率分布P(Y=1∣x)=11+exp(−wT⋅x+b)P(Y=0∣x)=1−P(Y=1∣x)简写则为:P(Y∣x)=π(x)Y(1−π(x))1原创 2020-10-18 14:58:47 · 96 阅读 · 0 评论 -
矩阵求导总结
矩阵求导本质上还是函数求导,只是在多变元的情况下,书写形式的改变。 下面公式详细推导流程均可在后面的参考书籍中找到。线性函数f(x)=bTxf(x) = b^{T}xf(x)=bTx的梯度和Hesse矩阵(二阶导数):▽f(x)=(b1,...,bn)T=b▽2f(x)=O \bigtriangledown f(x) = (b_{1}, ..., b_{n})^{T} = b \\ \bigtriangledown^{2} f(x) = O▽f(x)=(b1,...,bn)T=b▽2f(x原创 2020-10-04 16:50:37 · 1107 阅读 · 0 评论 -
机器学习算法——决策树——学习总结
决策树是一种基本的分类和回归方法。本次主要学习的分类方法的应用。决策树是一种树结构,包含内部结点、叶子结点。可以认为是if-then规则的集合。内部结点表示一个特征或属性,每个内部结点的分支代表其具体的特征值或属性值。叶子结点表示一个具体的类。熵在讲解决策树构建之前,先讲一下熵的概念。熵用来描述一个集合的混乱程度(就和我们在化学中提到的一样)。在信息论与概率统计中,熵表示随机变量不确定性的度量。给定一个取有限个值的离散随机变量X,则X的熵为H(X)。H(X)=−∑i=1npilog2pin表示X有n原创 2020-08-25 18:35:48 · 680 阅读 · 0 评论 -
目标检测之Faster R-CNN(附pytorch代码)
概念目标检测的任务就是不仅要对图片中的物体进行定位,而且还要将物体进行分类,同时还要输出分为此类的置信度概率。如下图:整体架构Dataset:数据,提供符合要求的数据格式(目前常用数据集是VOC和COCO)Extractor(有的文章也称为Backbone): 利用CNN提取图片特征features(原始论文用的是ZF和VGG16,后来人们又用ResNet101)RPN(Region Proposal Network): 负责提供候选区域rois(每张图给出大概2000个候选框)RoIHe原创 2020-07-08 15:53:53 · 4881 阅读 · 0 评论 -
NLP之关系抽取(信息抽取、三元组抽取)(附pytorch代码)
1、什么是关系抽取关系抽取的主要任务就是,给定一段句子文本,抽取句子中的两个实体以及实体之间的关系,以次来构成一个三元组(s,p,o),s是subject表示主实体,o为object表示客实体,p为predicate表示两实体间的关系。总的来说,(s, p, o)可以理解的“s的p是o”。 当然一个句子中可能不止两个实体,从而也不止一种关系,所以你要做的就是尽可能多的、且正确的抽取句子中的关系实体对。以中文句子为例,如下图:上图中的抽取结果就是我们后面提供的代码的抽取结果。可能你会问实体是什么,实体一原创 2020-07-03 11:25:32 · 32678 阅读 · 52 评论 -
TypeError: object of type class numpy.float64 cannot be safely interpreted as an integer.
运行别人在pytorch上实现的目标检测模型Faster-RCNN时,突然报了这个错误:TypeError: object of type <class ‘numpy.float64’> cannot be safely interpreted as an integer.查看了一下自己的numpy版本,发现是1.18.1,可能是版本过新的问题,所以尝试将numpy版本降到1.16。pip install numpy==1.16就OK了。...原创 2020-06-16 01:00:08 · 1489 阅读 · 0 评论 -
TensorFlow2.0利用DNN实现手写图片识别
import tensorflow as tffrom tensorflow.keras.datasets import mnistimport numpy as npfrom sklearn.preprocessing import StandardScalerprint(tf.__version__)2.0.0##加载数据 60000条训练集 10000条测试集 ...原创 2019-12-25 00:37:02 · 1336 阅读 · 1 评论 -
利用Tensorflow2.0、softmax实现手写字体识别
参考链接import tensorflow as tffrom tensorflow.keras.datasets import mnistimport numpy as npfrom sklearn.preprocessing import StandardScalerprint(tf.__version__)2.0.0##加载数据 60000条训练集 10000...原创 2019-12-24 15:55:14 · 1135 阅读 · 0 评论