智能计算数学基础
文章平均质量分 56
一穷二白到年薪百万
程序员
展开
-
【概率论】概率论中的链式法则
1]概率论 中的 链式法则。原创 2022-11-22 19:42:20 · 185 阅读 · 0 评论 -
【概率论】正态分布的叠加性和正态分布的标准化
正态分布又称为高斯分布,它在机器学习和深度学习中非常常用。如正态分布的叠加性和正态分布的标准化等,在VAE模型中重参技巧就用到了正态分布知识,特别是在高维数据中高维的正态分布更是常用。因此,准备梳理一下相应的知识,其中内容多有参考其他博客,一并在参考文献中给出链接。 正态分布(Normal distribution),又名高斯分布(Gaussian distribution)。若随机变量XXX服从一个数学期望(均值)为μμμ、方差为σ2σ^2σ2的正态分布,记为N(μ,σ2)N(μ, σ^2)N(μ,原创 2022-11-19 20:55:27 · 24782 阅读 · 1 评论 -
【线性代数】内积与投影的关系
[1]点积与投影的关系[2]点积和投影[3]为什么点积等价于投影后的乘积?原创 2022-09-25 11:51:32 · 1087 阅读 · 0 评论 -
MIT 线性代数第二版
[1]【转载】超详细MIT线性代数公开课笔记原创 2022-09-18 21:34:47 · 124 阅读 · 0 评论 -
MIT 线性代数第二版
[1]【转载】超详细MIT线性代数公开课笔记原创 2022-09-14 10:38:03 · 110 阅读 · 0 评论 -
【线性代数】奇异值分解(SVD)
[1]奇异值分解(SVD)[2]机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用[3]线性代数学习笔记10-2:特征值分解EVD和奇异值分解SVD[4]奇异值分解(SVD)原理详解及推导原创 2020-11-29 10:23:50 · 173 阅读 · 0 评论 -
【微积分】拉格朗日乘子法
[1]拉格朗日乘子法(Lagrange Multiplier)[1]拉格朗日乘数法原创 2022-06-23 21:36:04 · 142 阅读 · 0 评论 -
【应用统计】t-test t显著性检验
t-test 也称为 Student’s T Test,用来比较两样本平均值之间是否具有显著性差异;换句话说,t-test 让你知道这些差异是不是偶然发生的。[1]t检验及python代码实现[2]什么是 t-test?[3]t 检验的 3 种常用方法及在 Python 中使用样例[4]基于python的显著性检验[5]The Paired t-Test...原创 2022-06-14 15:18:33 · 1099 阅读 · 0 评论 -
【微积分】车比雪夫多项式——最佳逼近
[1]最佳逼近 切比雪夫——切比雪夫多项式再研究原创 2022-06-13 10:57:53 · 378 阅读 · 0 评论 -
【线性代数】矩阵的特征值分解(对角化、谱分解)
矩阵的特征分解又可以称作矩阵的对角化、谱分解。其在机器学习和图机器学习中有非常广泛的应用。本节主要介绍矩阵的特征分解的解法,意义,实际应用。除此之外,矩阵的特征分解与矩阵的特征值和特征向量有关联,之前在【线性代数】理解特征值和特征向量文章中,对于特征值和特征向量的一些相关概念没有涉及到的,会在此进行补充。 内容为自己的学习总结,其中多有借鉴他人的地方,最后一并给出链接。 特征向量所在直线上的向量都是特征向量。 这样的直线可能不止一条。 我们称矩阵A所有特征向量对应的直线的集合为特征空间。 对角原创 2022-06-12 21:53:33 · 10450 阅读 · 3 评论 -
矩阵分解方法概述
矩阵分解概述1 为什么要学习矩阵分解2 矩阵低秩结构的意义3 矩阵分解与矩阵填充的区别4 经典的矩阵分解方法4.1 特征值分解4.2 SVD分解(奇异值分解)4.3 MF模型(matrix factorization model)5 参考文献1 为什么要学习矩阵分解2 矩阵低秩结构的意义3 矩阵分解与矩阵填充的区别已知一个部分可观察的矩阵 MMM。矩阵补全(Matrix Completion)目的是为了估计矩阵中缺失的部分(不可观察的部分),可以看做是用矩阵XXX近似矩阵MMM,然后用XXX中原创 2022-01-23 16:12:10 · 3055 阅读 · 1 评论 -
求解矩阵的F范数
F范数的定义:A为m∗mm*mm∗m的矩阵∣∣A∣∣F=∑in∑jnaij2\begin{aligned}||A||_F=\sqrt{\sum_{i}^n{\sum_j^n}a_{ij}^2}\end{aligned}∣∣A∣∣F=i∑nj∑naij2即计算矩阵的每个元素的平方之后的加和然后开方。 在矩阵分解问题中,为了优化所近似求解的矩阵,往往都会用到F范数作为损失函数的正则项。在matlab中求解范数的函数为norm(X, ‘fro’),在python中为numpy.lina原创 2021-04-12 20:43:51 · 22136 阅读 · 0 评论 -
【线性代数】线性无关与正交基和正交矩阵
之前在【理解矩阵系列】文章和【理解特征值和特征向量】都提到了线性无关和基的有关概念,并且在后续的学习中出现了概念的混淆或者定义理解不清楚,现在系统的梳理一下。 内容为自己的学习总结,其中多有借鉴他人的地方,最后一并给出链接。 1、线性无关的定义:在线性代数里,矢量空间的一组元素中,若没有矢量可用有限个其他矢量的线性组合所表示,则称为线性无关或线性独立,反之称为线性相关。 例如在三维欧几里得空间R的三个矢量(1,0,0),(0,1,0)(1, 0, 0),(0, 1, 0)(1,0,0),(0,原创 2022-06-03 11:25:47 · 2827 阅读 · 0 评论 -
【概率论】变量之间的相关性计算
[1]变量之间的相关性:协方差、相关系数[2]深入理解皮尔逊相关系数&python代码[3]用Numpy计算Python中的Pearson相关系数[4]python特征选择——两个连续变量的线性相关系数原创 2022-06-01 11:08:33 · 311 阅读 · 0 评论 -
【线性代数】理解正定矩阵和半正定矩阵
1 定义 在机器学习和谱图理论的学习中,总会用到正定矩阵半正定矩阵概念。这个概念困扰很久一直没有下决心拿下,为了深入学习谱图理论,必须得拿下!定义:正定矩阵(positive definite, PD) 给定一个大小为n×nn×nn×n的实对称矩阵AAA,若对于任意长度为nnn的非零向量 XXX,有XTAX>0X^TAX>0XTAX>0恒成立,则矩阵AAA是一个正定矩阵。定义:半正定矩阵(positive semi-definite, PSD) 给定一个大小为n×nn×n原创 2022-05-26 20:01:50 · 3527 阅读 · 0 评论 -
【线性代数】理解特征值和特征向量
1 通俗解释 定义:对于任意可逆方阵,存在一个向量,用该矩阵乘以该向量后,向量的大小发生变化而方向不变。也就是说,对于n×nn×nn×n矩阵MMM,存在一个非000的nnn维向量V1,V2,......VnV_1,V_2,......V_nV1,V2,......Vn使下式成立:MVi=λiViMV_i=\lambda_iV_iMVi=λiVi其中,比例系数λi\lambda_iλi成为矩阵MMM的特征值,向量ViV_iVi成为该特征值对应的特征向量。对于一个可逆方阵可以存在一原创 2022-05-25 20:30:56 · 1230 阅读 · 1 评论 -
【线性代数】理解矩阵(三)
目录总结矩阵运动的理解矩阵乘法的运动总结 矩阵不仅可以作为线性变换的描述,而且可以作为一组基的描述。而 作为变换的矩阵,不但可以把线性空间中的一个点给变换到另一个点去,而且也能够把线性空间中的一个坐标系(基)表换到另一个坐标系(基)去。而且,变换点 与变换坐标系,具有异曲同工的效果。线性代数里最有趣的奥妙,就蕴含在其中。理解了这些内容,线性代数里很多定理和规则会变得更加清晰、直觉。 首先来总结一下前面两部分的一些主要结论:-1. 首先有空间,空间可以容纳对象运动的。一种空间对应一类对象。-2转载 2022-05-17 10:37:22 · 635 阅读 · 0 评论 -
【概率论】贝叶斯公式&极大似然估计&最大后验概率
参考文献[1]贝叶斯公式理解之似然函数,后验概率,先验概率[2]贝叶斯公式/极大似然估计/最大后验估计[3]全概率公式、贝叶斯公式[4]L1正则先验是Laplace分布,L2正则先验分布是高斯分布原创 2022-04-11 17:20:36 · 229 阅读 · 0 评论 -
【概率论】联合概率&条件概率&边缘概率的关系
参考文献[1]联合概率、边缘概率、条件概率之间的关系&贝叶斯公式[2]条件概率和联合概率[3]联合概率密度函数[4]先验概率和后验概率_PRML CH2 Probability Distribution 概率分布原创 2022-04-11 14:58:41 · 782 阅读 · 0 评论 -
【线性代数】理解矩阵(二)
接着理解矩阵。 上一篇里说“矩阵是运动的描述”,到现在为止,好像大家都还没什么意见。但是我相信早晚会有数学系出身的网友来拍板转。因为运动这个概念,在数学和物理里是跟微积分联系在一起的。我们学习微积分的时候,总会有人照本宣科地告诉你,初等数学是研究常量的数学,是研究静态的数学,高等数学是变量的数学,是研究运动的数学。大家口口相传,差不多人人都知道这句话。但是真知道这句话说的是什么意思的人,好像也不多。简而言之,在我们人类的经验里,运动是一个连续过程,从A点到B点,就算走得最快的光,也是需要一个时间来逐点地转载 2021-11-06 22:33:35 · 247 阅读 · 0 评论 -
【线性代数】理解矩阵(一)
转载的文章写的很好!!! 线性代数课程,无论你从行列式入手还是直接从矩阵入手,从一开始就充斥着莫名其妙。比如说,在全国一般工科院系教学中应用最广泛的同济线性代数教材(现在到了第四版),一上来就介绍逆序数这个“前无古人,后无来者”的古怪概念,然后用逆序数给出行列式的一个极不直观的定义,接着是一些简直犯傻的行列式性质和习题——把这行乘一个系数加到另一行上,再把那一列减过来,折腾得那叫一个热闹,可就是压根看不出这个东西有嘛用。大多数像我一样资质平庸的学生到这里就有点犯晕:连这是个什么东西都模模糊糊的,就开始钻转载 2021-11-05 21:25:20 · 350 阅读 · 0 评论 -
【MIT线性代数笔记】矩阵的乘法和逆矩阵
乘法和逆矩阵原创 2020-11-12 22:33:04 · 624 阅读 · 1 评论