![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
高度数学基础
rosefunR
每次都多付出一点. 欢迎关注公众号《机器学习与算法之道》
展开
-
距离度量:欧氏距离,余弦距离,KL散度,马氏距离(含python代码实现)
1. 欧氏距离绝对距离。2. 余弦距离角度。归一化后的欧式距离和余弦距离关系:参考:欧氏距离和余弦相似度的区别是什么?原创 2020-07-29 14:23:42 · 14721 阅读 · 0 评论 -
数学中几种积:点积(数量积/标量积/内积)、叉积(叉乘/向量积)、外积(张量积/Kronecker积)、哈达玛积(元素积)
1 点积点积(dot product),又称数量积、标量积.输入:一种接受两个等长的数字序列(通常是坐标向量);输出:返回单个数字。在欧几里几何空间中,向量的点积运算又称为内积。表示代数定义推广矩阵的点积/内积,为对应矩阵元素的积之和。A,B是定义为两个相同大小的矩阵。值得注意的是,一些对于A,B大小不同,可以分别把它们组成的向量进行内积。比如在numpy中:im...原创 2020-01-16 12:41:56 · 27529 阅读 · 3 评论 -
最大似然估计(MLE)、最大后验估计(MAP)及贝叶斯分类
0.绪概率是已知模型和参数,推数据。统计是已知数据,推模型和参数。1.最大似然估计求得, θ=0.692\theta = 0.692θ=0.6922.最大后验估计与最大似然估计不同,最大后验估计考虑了先验分布p(θ)p(\theta)p(θ)。import matplotlib.pyplot as pltfrom numpy.random import normal,rand...原创 2019-11-01 10:04:39 · 3606 阅读 · 0 评论 -
概率统计:离散分布和连续分布
1. 几何分布几何分布式离散型概率分布,如伯努利试验中,得到第一次成功的试验次数。原创 2019-06-27 17:02:45 · 17103 阅读 · 1 评论 -
熵、相对熵、交叉熵、变分推断
1. 公式交叉熵 = 熵 + 相对熵当我们用一个计算公式(交叉熵)去估计熵时,得到的结果往往偏大,偏离熵真值称为 相对熵。H(p)=∑plog1p=∑plog1q−∑plogpqH(p) = \sum{p log \frac{1}{p} } = \sum { p log \frac{1}{q} } - \sum { p log \frac{p}{q} }H(p)=∑plogp1=∑plo...原创 2019-06-27 16:43:20 · 614 阅读 · 0 评论 -
向量范数求导
1、问题看了参考资料,不是很懂,一个标量与n*1维向量取导,应该得到1*n维向量,但参考1的例子好像却与这个不符。参考: 1.向量范数求导; 2.矩阵计算_Wikipedia; 3.matrixCookbook原创 2017-12-11 20:07:56 · 18417 阅读 · 2 评论 -
希尔伯特空间、拓扑空间概念理解
1、引言 作者:qang pan 链接:https://www.zhihu.com/question/19967778/answer/28403912 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 什么是赋范线性空间、内积空间,度量空间,希尔伯特空间 ? 现代数学的一个特点就是以集合为研究对象,这样的好处就是可以将很多原创 2017-11-29 12:21:17 · 6287 阅读 · 0 评论