- 博客(847)
- 资源 (1)
- 收藏
- 关注
原创 人工智能之数学基础:逐步搜索法求解非线性方程的根
这就是逐步搜索法求解非线性方程的根的方法,步长h可以我们自己安排,如果想要精确一些,就弄小一些。
2026-04-09 22:44:31
325
原创 人工智能之数学基础:求解非线性多项式方程的根
我们通过定义的应用确定了(0,3)中有根,在(3,+∞)中也有根,但是我们发现这个范围太大了,就拿(0,3)来说,这个范围就比较大,那么如何才可以不断缩减这个范围,从而令区间不断逼近根呢?逐步搜索法 (增值寻根法)二分法黄金分割法。
2026-04-09 22:43:33
143
原创 人工智能之数学基础:KTT条件
在前面的课程中我们学习了三种约束规划问题,我们知道了前面两种方式的求解方式,但是我们并没有介绍第三种约束规划问题的求解方式,本文将对这个问题进行介绍,我们使用KTT条件来处理,总的来说KKT条件是将Lagrange乘数法(Lagrange multipliers)所处理涉及等式的约束优化问题推广至不等式。
2026-04-08 22:40:27
309
原创 人工智能之数学基础:三种常见的凸优化问题
以上就是三种常见的凸优化问题,其中第三种很接近KTT条件了,下文我们将总结出KTT条件,并通过它来解决实际问题。
2026-04-08 22:37:35
13
原创 人工智能之数学基础:非线性规划的可行方向和下降方向
如上所示就是下降方向的定义,这个定义的含义就是说有一个点x拔,然后朝着d的方向走了t大小的步伐,然后函数值就变小了,那么我们就可以认为这个向量d就是函数f(x)在x拔的下降方向。
2026-04-07 23:16:41
125
原创 人工智能之数学基础:什么是非线性规划?
如上所示就是非线性规划的定义,其中f(x)是目标函数,ci(x)是约束,约束分为等式约束和不等式约束,只要f(x),ci(x)中有一个是非线性函数,那么这个约束问题就是非线性规划问题。如果我们将非线性规划通过向量的方式进行表示,那么我们可以得到:这里我们使用g(x)来表示不等式的约束条件,而使用h(x)来表示等式的约束条件,g(x)、h(x)是一个向量,向量中的每一个元素表示一个约束。
2026-04-07 23:14:07
25
原创 人工智能之数学基础:机器学习中的凸优化问题
前面我们介绍了凸优化,在机器学习中,很多机器学习模型的优化本质上就是一个凸优化问题,对于这些模型,一旦模型学习到局部优化点,那么就意味这找到了整个模型的全局最优点。
2026-04-06 23:37:11
160
原创 人工智能之数学基础:凸优化之极点和极方向
极点与极方向理论将凸优化问题转化为几何对象的解析,为算法收敛性分析、最优性条件建立提供了直观框架。随着凸优化在机器学习、金融工程等领域的深入应用,极点与极方向的研究正拓展至非光滑凸集、无限维空间等复杂场景。
2026-04-06 23:36:17
21
原创 人工智能之数学基础:什么是凸优化问题?
前面我们介绍了凸函数还有凸集,这两个都是构成凸优化问题的重要元素,当我们知道凸集和凸函数的时候,凸优化也就非常简单了。如果一个最优化问题的可行域是凸集并且目标函数是凸函数,那么这个问题就是凸优化问题。
2026-04-04 23:12:01
29
原创 人工智能之数学基础:凸优化之凸函数
当满足如上所示条件的时候,那么我们可以认为f是S上的凸函数,若上面的不等式对于x≠y严格成立,则称f是S上的严格凸函数。若-f是S上的凸函数,则称f是S上的凹函数.若-f是S上的严格凸函数,则称f是S上的严格凹函数.
2026-04-04 23:11:18
23
原创 人工智能之数学基础:优化问题的简单介绍
对于几乎所有机器学习算法,无论是有监督学习、无监督学习,还是强化学习,最后一般都归结为求解最优化问题。因此,最优化方法在机器学习算法的推导与实现中占据中心地位,本文将对优化问题进行简单的介绍。
2026-03-30 09:46:50
134
原创 人工智能之数学基础:多元泰勒公式
在前面的看成中我们学习了一元泰勒公式,在实际使用中不止有一元泰勒公式,而是存在多元泰勒公式,我们本文对其进行简单的了解。
2026-03-30 09:45:40
253
原创 人工智能之数学基础:泰勒公式和麦克劳林公式
泰勒公式揭示了数学分析的核心思想——用局部信息(导数)推断全局行为。它不仅是一种计算工具,更体现了“以简驭繁”的哲学智慧:通过无限阶导数的线性组合,竟能逼近任意复杂的函数形态。这种思想在泛函分析、微分几何等领域持续焕发活力,成为连接微分与积分的纽带。
2026-03-29 11:34:39
137
原创 人工智能之数学基础:连续、可导、可微的关系
连续性是函数最基础的“舞步”。函数f(x)在x₀处连续,当且仅当满足三个条件:1)f(x₀)有定义;2)极限lim(x→x₀)f(x)存在;3)该极限等于f(x₀)。这相当于要求函数在该点没有“跳跃”或“空洞”,就像芭蕾舞者起跳时必须脚尖紧贴地面,不能出现突然的腾空。可导性则要求更严格的“旋转动作”。函数在x₀处可导,当且仅当存在一个实数A,使得:这个极限A就是导数f'(x₀)。可导性不仅要求函数在该点连续,还要求切线存在且唯一,如同花样滑冰运动员必须完成标准的旋转动作,不能出现倾斜或摇晃。可微性。
2026-03-29 11:32:35
38
原创 人工智能之数学基础:多元函数的极值
在前面的课程中,我们学习了一元函数的极值,本文我们学习多元函数的极值点的判别方法,下面以二元函数为例进行介绍。
2026-03-25 22:15:12
179
原创 人工智能之数学基础:黑塞矩阵(Hessian Matrix)
在多元函数优化的领域中,黑塞矩阵(Hessian Matrix)犹如一把精准的钥匙,能够打开函数局部曲率结构的奥秘之门。这个由德国数学家Ludwig Otto Hesse于19世纪提出的数学工具,通过二阶偏导数的对称方阵形式,为理解复杂函数的极值特性提供了关键视角。本文我们将学习一个特殊的矩阵,叫做黑塞矩阵,这个矩阵是由多元函数的二阶偏导数组成的矩阵。
2026-03-17 22:47:02
170
原创 人工智能之数学基础:梯度
梯度是多元函数对应的一个向量值函数,在场论中也可视为将标量场作用为向量场的算子。对于一个具有n个自变量的多元函数fx1,x2,⋯,xn),其在某一点Px10,x20,⋯,xn0) 处的梯度 ∇f是一个向量,其定义为:梯度非常简单,只需要将梯度看成是函数沿着各个坐标轴偏导数组成的向量。它不仅包含了函数在每个方向上的变化率信息,还通过向量的方向和模长反映了函数变化的综合特征。
2026-03-17 22:45:49
53
原创 每天五分钟深度学习:其它解决过拟合问题的技术
在前面的章节中,我们介绍了几种解决神经网络过拟合问题的方法,比如L2正则化以及随机失活技术。那么在本节课程我们将再介绍几种常见的解决过拟合问题的技术。
2026-03-14 22:02:50
49
原创 人工智能之数学基础:方向导数
在之前的课程中我们学习了导数和偏导数,对于多元函数来说就是偏导数,偏导数可以认为是函数值沿坐标轴方向的变化率,但是很多的时候,我们需要求解函数在某点处沿某一指定方向的变化率,那么沿着某一方面的方向的变化率就是我们所说的方向导数。
2026-03-14 21:38:41
149
原创 人工智能之数学基础:多元复合函数求导的链式法则
前面我们学习了一元复合函数求导的链式法则,本文我们学习多元复合函数的链式求导法则。链式法则是微积分中处理复合函数求导的核心工具,其本质是的思维模式。在多元函数中,若函数z通过中间变量u、v等依赖于自变量x、y,则z对x的导数需考虑所有通过中间变量的“影响路径”,每条路径的贡献为路径上各导数的乘积,最终结果为所有路径贡献之和。
2026-03-14 21:37:04
452
原创 人工智能之数学基础:全微分的介绍
以二元函数为例,函数f(x,y)在(x0,y0)的邻域内有定义,如果存在两个实数A、B,使得有如下式子成立:其中A和B为不依赖△x和△y的常数,则称函数在点(x0,y0)处可微,将A△x+B△y称为在点(x0,y0)处的全微分。可以将△x记为dx,△y记为dy,此时全微分也可以表示为Adx+Bdy。
2026-03-12 23:01:41
360
原创 人工智能之数学基础:多元函数的偏导数
在前面的课程中我们学习了一元函数,所有的函数都有导数,多元函数也不例外,不过多元函数不叫做导数,而是叫做偏导数,下面我们来学习一下多元函数的偏导数。
2026-03-12 23:00:10
34
原创 人工智能之数学基础:什么是多元函数?
多元函数是相对于一元函数而言的,它是指有多个自变量的函数。一般地,设D是n维空间R^n中的一个点集,对于D中的每一个点 (x1,x2,⋯,xn),按照某一确定的法则f,都有唯一确定的实数y与之对应,那么就称f是定义在D上的n元函数,记作yfx1,x2,⋯,xn),其中x1,x2,⋯,xn 称为自变量,y称为因变量,点集D称为该函数的定义域。
2026-03-11 22:16:38
41
原创 人工智能之数学基础:变上限积分
假设函数f(x)在区间[a,b]内可积,x∈[a,b],则变上限积分定义为:根据牛顿莱布尼兹公式公式可得:注意此时变积分上限积分不是一个定制,而是一个函数,x的取值不同,变积分上限积分的值也是不同的。变上限积分作为微积分学中的重要概念,以其独特的性质和广泛的应用,成为了解决各种实际问题的有力武器。它不仅深化了我们对微分和积分之间关系的理解,更为数学在其他学科领域的应用奠定了坚实的基础。
2026-03-11 22:15:57
210
原创 人工智能智能之数学基础:定积分的介绍
定积分是微积分学的核心概念之一,它通过将连续变化的问题离散化,再通过极限过程将离散结果“缝合”为连续解,为计算面积、体积、弧长等几何量,以及解决物理中的功、流量、概率分布等问题提供了系统方法。在前面的课程中,我们学习了不定积分,本文我们将学习定积分。
2026-03-10 22:03:27
159
原创 人工智能之数学基础:一元不定积分的介绍
对于定义在区间[a,b]内的函数f(x),如果存在一个区间(a,b)内的可导函数F(x),对于任意的x∈(a,b)均有F'(x)=f(x),那么可以将F(x)认为是f(x)的一个原函数,也可以将可导函数F(x)+C称为不定积分,可以将不定积分表示为:其中,fx)称为被积函数dx表示对变量x积分。不定积分的本质是寻找所有满足微分关系的原函数族,常数C体现了原函数在垂直方向上的平移自由度——这是微分运算中信息丢失的必然结果。
2026-03-10 22:00:55
43
原创 人工智能之数学基础:微分的介绍以及导数和微分之间的关系
函数yfx) 在点x0 处的导数为:若该极限存在,则称fx) 在x0 处可导。关键点导数是增量比Δy / Δx的极限,反映了函数变化的瞬时速率;导数存在要求函数在x0 处连续,但连续不一定可导(如fx)=∣x∣ 在x=0 处连续但不可导)。导数是微分的“灵魂”,定义了变化的本质;微分是导数的“载体”,将瞬时变化率转化为可操作的线性工具。
2026-03-05 23:35:41
173
原创 人工智能之数学基础:函数的凹凸性
函数的凹凸性是连接函数局部性质与全局行为的关键桥梁。通过二阶导数、一阶导数单调性或定义法,可系统判定函数的凹凸性,并进一步分析其几何意义与应用场景。在经济学中,凹凸性揭示了边际变化的规律;在优化理论中,凸性保证了算法的高效性。
2026-03-05 23:19:58
73
原创 人工智能之数学基础:函数的单调性(导数)
在前面的课程中,我们学习了导数,导数可以决定可导函数的一些重要性质,其中之一就是单调性。函数的单调性是微积分中的核心概念之一,其与导数的关系通过导数的符号特征得以精确刻画。
2026-02-28 21:54:29
311
原创 人工智能之数学基础:高阶导数
高阶导数通过多层次刻画函数的变化特征,不仅深化了对函数局部性质的理解,还在科学计算、工程建模、经济分析等领域发挥关键作用。掌握高阶导数的计算方法与应用场景,需结合具体函数形式分析其导数规律,并注重理论与实践的结合。其思想更延伸至微分方程理论、数值分析等领域,成为连接数学与实际问题的桥梁。
2026-02-25 10:51:06
50
原创 人工智能之数学基础:一元函数链式法则
链式法则通过“分解—求导—组合”的逻辑,将复杂复合函数的导数问题转化为基本初等函数的导数计算。其思想不仅贯穿微积分学,更延伸至多元函数偏导数、高阶导数等领域,成为分析变量间间接依赖关系的关键工具。掌握链式法则,需理解其数学本质、熟练应用多层复合情形,并能结合实际问题建立正确的复合函数模型。
2026-02-25 10:50:20
31
原创 人工智能之数学基础:一阶导数
导数定义为函数的自变量变化值趋向于0时,函数值的变化量与自变量变化量比值的极限,在x点处的导数为:如上所示,就是函数f(x)在点x处的导数,它的几何意义是函数在点(x,f(x))处切线的斜率,反应了函数在此处变化的快慢。除了使用f'(x)可以表示导数之外,还可以使用dy/dx来表示导数。这一定义蕴含着深刻的哲学思想:通过无限逼近的极限过程,将离散的增量比转化为连续的变化率,从而捕捉到函数在瞬间的“动态特征”。
2026-02-24 16:18:26
66
原创 人工智能之数学基础:函数的连续性
如果函数f(x)满足:那么我们就可以称函数f(x)在a点处连续。从数学角度来说就是函数f(x)在a点处的极限(必须要有极限)就是函数在a点的值。从几何角度来说就是函数在a点处没有端,是完整连接的。
2026-02-24 16:17:29
393
原创 人工智能之数学基础:函数的极限
极限思想萌芽于古代数学家对无穷小问题的探索。古希腊哲学家芝诺的“阿基里斯追龟”悖论首次触及连续与离散的矛盾,而中国《庄子·天下篇》中“一尺之棰,日取其半,万世不竭”的论述则直观描述了无穷级数的收敛性。极限是微积分的基础。
2026-02-23 10:33:05
134
原创 人工智能之数学基础:贝叶斯、极大似然、后验估计的关系
极大似然估计(MLE)属于频率学派方法,认为参数是固定但未知的常数。其核心思想是:在给定观测数据的情况下,寻找使该数据出现概率最大的参数值。例如,抛硬币实验中,若观察到10次中有7次正面,MLE会估计正面概率为0.7,因为它直接最大化观测结果的似然性,不依赖任何先验假设。贝叶斯估计属于贝叶斯学派方法,将参数视为随机变量,服从某种先验分布。其核心思想是:结合先验信息和观测数据,通过贝叶斯定理更新参数的后验分布,最终通过后验分布的期望、中位数或众数进行点估计。
2026-02-23 10:24:09
304
原创 人工智能之数学基础:贝叶斯公式
我们前面学习了先验分布、后验分布、极大似然估计,它们之间的关系可以通过贝叶斯公式来表示:如上所示就是贝叶斯公式,本文我们将更近一步,通过一些例子看一下贝叶斯公式是如何使用的?
2026-02-18 21:39:34
69
原创 人工智能之数学基础:频率学派和贝叶斯学派
在这个世界上对概率的看法分为两种,一种是频率学派,另外一种是贝叶斯学派。这两个学派的目的其实是一个,但是却是具有不同的角度,不同的思维方式。
2026-02-18 21:33:49
59
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅