机器学习必备的数学基础
文章平均质量分 93
x-jeff
AI爱好者
CVer
个人博客网站:https://shichaoxin.com
微信公众号:x-jeff的AI工坊
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
【数学基础】第十九课:凸优化进阶
亦称:如果fRn→R是一个函数,那么ff∗yx∈domfsupyTx−fx))其中f∗y的定义域是使得等式右边有上界的那些y。x∈domf表示x在f的定义域内取值。原创 2025-04-12 17:15:49 · 1417 阅读 · 0 评论 -
【数学基础】第十八课:凸优化基础
如果一个集合。原创 2025-04-07 21:17:58 · 1392 阅读 · 0 评论 -
【数学基础】第十七课:奇异值分解
对于任何一个矩阵Bm×n,存在Pm×mQn×n,使得BPDQT。其中,Dm×n是一个只有对角元素不为零的矩阵。矩阵Pp1p2...pm的大小为m×m,列向量p1p2...pm是BBT的特征向量,也被称为矩阵B的。矩阵Qq1q2...qm的大小为n×n,列向量q1q2...qm。原创 2025-04-04 16:29:03 · 1156 阅读 · 0 评论 -
【数学基础】第十六课:主成分分析
是在机器学习以及统计学领域内常用的一种线性降维方法。其可以有效地降低数据维度,比如说:将原本高维的数据(N维)重新以一个相对低维的形式表达(K维,且KN理想上只要该K维的表征(representation)具有代表性,能够抓住原来N维数据的大部分特性,并且没有损失过多信息,我们便可以用K维来代表之前的N维。原创 2025-03-31 19:40:56 · 1017 阅读 · 0 评论 -
【数学基础】第十五课:矩阵的相似变换和相合变换
在线性代数中,n×n存在一个n×nP−1APBP被称为矩阵A与B之间的。原创 2025-03-26 19:58:28 · 2015 阅读 · 0 评论 -
【数学基础】第十四课:线性代数
线性空间亦称向量空间。我们用的线性空间通常为。实系数线性空间是一个由向量组成的集合,向量之间可以做加减法,向量与实数之间可以做乘法,而且这些加,减,乘运算要求满足常见的交换律和结合律。我们也可以类似地定义其他系数的线性空间。⚠️线性空间必须要有原点。例如一个有原点的平面就是一个线性空间(有了原点才能定义向量及其运算)。‼️是线性空间里的一组线性无关向量,使得任何一个向量都可以唯一的表示成这组基的线性组合。基给出了定量描述线性结构的方法:坐标系。坐标即为基的系数。原创 2025-03-20 20:53:34 · 960 阅读 · 0 评论 -
【数学基础】第十三课:参数估计
是统计推断的一种。根据从总体中抽取的随机样本来估计总体分布中未知参数的过程。原创 2025-03-17 20:31:04 · 1247 阅读 · 0 评论 -
【数学基础】第十二课:随机变量
表示随机试验各种结果的实值单值函数。随机事件不论与数量是否直接有关,都可以数量化,即都能用数量化的方式表达。随机事件数量化的好处是可以用数学分析的方法来研究随机现象。例如某一时间内公共汽车站等车乘客人数,电话交换台在一定时间内收到的呼叫次数,灯泡的寿命等等,都是随机变量的实例。我们可以通过随机变量的概率分布、概率(密度)函数和概率分布函数来研究随机变量的分布特征。。除此之外,随机变量的矩和特征函数是另一种描述随机变量分布特征的方式。我们现在就来了解一下。原创 2025-03-12 20:32:21 · 1212 阅读 · 0 评论 -
【数学基础】第十一课:贝叶斯公式
是指事件A在另外一个事件B已经发生条件下的发生概率。PA∣B,读作“在B的条件下A的概率”。PA∣BPBPAB。原创 2025-03-08 17:56:28 · 1700 阅读 · 0 评论 -
【数学基础】第十课:积分
是积分学中一种比较基础且常见的积分概念。除此之外,还有勒贝格积分等。但是本文只讨论黎曼积分。👉单变量函数黎曼积分:令fx为开区间ab上的一个连续函数,对于任何一个正整数n定义,xianib−aSnfi0∑n−1fxixi1−xi如果极限limn→∞Snf存在,那么函数fx在这个区间上的∫abfxdxn→∞limSnf。原创 2025-03-05 21:56:25 · 2045 阅读 · 0 评论 -
【数学基础】第九课:协方差和相关系数
在概率论和统计学中,是试验中每次可能结果的概率乘以其结果的总和,即概率加权下的“平均值”。原创 2025-03-01 15:17:50 · 889 阅读 · 0 评论 -
【数学基础】第八课:概率分布
概率分布,是指用于表述随机变量取值的概率规律。事件的概率表示了一次试验中某一个结果发生的可能性大小。若要全面了解试验,则必须知道试验的全部可能结果及各种可能结果发生的概率,即随机试验的概率分布。如果试验结果用变量X的取值来表示,则随机试验的概率分布就是随机变量的概率分布,即随机变量的可能取值及取得对应值的概率。根据随机变量所属类型的不同,概率分布取不同的表现形式。⚠️概率分布指的是随机变量可能的取值以及其概率。原创 2025-02-26 21:57:25 · 1399 阅读 · 0 评论 -
【数学基础】第七课:矩阵与向量
向量也称为矢量,指具有大小和方向的量。a⃗x0y0ax0y0👉矩阵表示(n×1n\times 1n×1ax0y0ax0y0向量的大小,也就是向量的长度(或称模向量a\mathbf aa的模记作∣a∣∣a∣。若向量a⃗xyaxy,则∣a⃗∣x2y2∣a∣=x2y2。⚠️因为方向不能比较大小,所以向量也就不能比较大小。原创 2025-02-24 18:13:45 · 1587 阅读 · 0 评论 -
【数学基础】第六课:梯度下降法和牛顿法
针对一元函数来说(也有针对多元函数的泰勒展开,此处仅讨论针对一元函数的展开):如果函数足够光滑的话,在已知函数在某一点(假设为x0x_0x0)的各阶导数值的情况下,泰勒公式可以用这些导数值做系数构建一个多项式来近似函数在这一点的邻域中的值:f(x)=f(x0)0!+f′(x0)1!(x−x0)+f′′(x0)2!(x−x0)2+...+f(n)(x0)n!(x−x0)n+Rn(x)f(x)=\frac{f(x_0)}{0!}+\frac{f'(x_0)}{1!}(x-x_0)+\frac{f''(x_0)原创 2025-02-22 12:03:34 · 1550 阅读 · 0 评论 -
【数学基础】第五课:微分
若函数。原创 2025-02-20 21:39:33 · 1230 阅读 · 0 评论 -
【数学基础】第四课:导数
当函数y=f(x)y=f(x)y=f(x)的自变量xxx在一点x0x_0x0上产生一个增量Δx\Delta xΔx时,函数输出值的增量Δy\Delta yΔy与自变量增量Δx\Delta xΔx的比值在Δx\Delta xΔx趋于000时的极限aaa如果存在,aaa即为在x0x_0x0处的导数,记作f′(x0)f'(x_0)f′(x0)或df(x0)dx0\frac{df(x_0)}{dx_0}dx0df(x0)。即f′(x0)=limΔx→0ΔyΔx=limΔx→0f(x0+Δx)−f(x0)原创 2025-02-17 18:38:48 · 1328 阅读 · 0 评论 -
【数学基础】第三课:极限
limx→x0fxL,表示函数fx在x0处的极限为L。原创 2025-02-15 21:10:43 · 1350 阅读 · 0 评论 -
【数学基础】第二课:目标函数、损失函数、代价函数
其中,Jf为正则化项。上述式子中,yi是真实值,fxi是预测值,N是样本数。实际上,这些概念的定义并没有一个统一的说法,这里只是给出一种比较常见的定义。其实只要理解了背后的公式,可根据上下文语境自行判断,叫法并不重要。原创 2025-02-15 19:45:58 · 756 阅读 · 0 评论 -
【数学基础】第一课:机器学习中需要的数学基础
要想成为一名优秀的数据科学家,以下三方面的知识必不可少:并且个人认为机器学习的本质其实就是数学,所以,有个扎实的数学基础至关重要。原创 2025-02-15 10:06:51 · 467 阅读 · 0 评论
分享