![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
数学
文章平均质量分 74
S_o_l_o_n
logic
展开
-
贝叶斯统计
频率学派经典估计和贝叶斯估计经典的频率学派的参数估计方法有矩估计和最大似然估计,假设样本是在一个客观固定的参数所确定的概率模型下生成的,这个前提下,直接先假设一个未知参数,然后根据某些原则(矩相等或者最大似然原则)求出未知参数值。由于频率学派认为参数是固定的未知常数,因此,对参数不会存在概率类似的阐述。例如,对于未知参数估计的在一定置信水平alpha下的置信区间,频率学派的正确解释是:如果进行n次试验,那么会有alpha*n次,真实的参数会落在这个置信区间中,而对于一次采样试验来说,参数是否落在这个区间原创 2023-01-27 21:40:24 · 805 阅读 · 0 评论 -
多元函数的二阶泰勒展开推导
多元函数受多个变量的影响,变量的变化造成函数值的变化,因此,只要变量的变化对函数值的影响一致,那么两个源自同一点的函数就完全一样。变量的变化对函数值的影响,是多重多阶的,因此,要使得两个函数一致,就要保证这种影响在任何阶任意维度都是一致的。从一元函数的角度,如果将函数图像理解成时间位移区间,那么两个函数曲线一致,意味着某一点开始,其速度要相等、速度的变化程度(加速度)要相等、加速度的变化程度(加速度的加速度)要相等...,这样就意味着两种位移是完全一致的,而这实际上就对应着各阶导数。原创 2022-11-12 18:11:04 · 4344 阅读 · 0 评论 -
内积、点积和坐标
所以点积的由来源自物理意义下的点积的定义,为了将物理意义下的点积形式化,可以使用内积数学工具,引入基将向量坐标化,从而对坐标进行运算操作。实际上,选取基是为了将向量坐标化,从而可以使用内积运算,使用数学工具进行更多的分析研究,而选取规范正交基仅仅只是为了计算简单(上述最后一项为0,可以消去,i、j的长度为1,系数也可以忽略)。但是实际上,我们选取规范正交基并不是为了和数学定义上的内积联系起来,因为数学上的内积有很多种,只要满足内积定义即可,对于任意一组基,都可以定义一种内积使得物理意义下的向量坐标等价于。原创 2022-10-01 23:56:34 · 1393 阅读 · 0 评论 -
What is P value and Significance Level?
在统计学的假设检验中,有一个概念叫做P值,一般通过P值跟提前定好的显著性水平进行对比,来判断是否应该拒绝原假设。如果P值比显著性水平更低,则拒绝原假设,反之,没有充分的证据拒绝原假设。在学统计的人眼中,这是很自然的,以至于不需要去进一步想一些细节,比如,P值到底是什么?如何去准确的理解?P值的定义是,在原假设的基础上,统计量X的值,理论上至少跟已观察统计量一样极端的概率。更具体地,假设是右侧检验,P值就等于。其中X表示某个统计量,我们可以在原假设为真的基础上求出X的分布,...原创 2022-03-06 22:27:33 · 1278 阅读 · 0 评论 -
理解拉格朗日乘子法的一种角度
本文旨在以一种相对直观的角度去理解拉格朗日乘子法,在推导得到拉格朗日乘子法最终形式之前,需要先理解以下三个推论:1. 梯度和等高域正交;2. 约束域的维度+约束条件个数=变量个数;3. 极值点的必要条件为约束域领域和目标梯度正交。 其中,等高域是目标函数等于某一个值时自变量所在的区域,所以在等高域中的所有点对应的函数值都是相等的;约束域就是由多个等式约束条件共同约束下自变量形成的区域。梯度和等高域正交 假设某点P对应的目标函数的梯度为G,根...原创 2021-11-07 20:42:16 · 564 阅读 · 0 评论 -
神经网络反向传播(BP)算法推导
BP算法是训练神经网络的一种算法,其是一种计算神经网络可训练参数的梯度的高效算法,正是因为BP算法的提出和在工程上的实现,使得深度神经网络模型可以比较轻易的训练。 BP算法是建立在梯度下降的优化算法基础之上的,正是因为我们使用了梯度下降的方法来优化我们的模型,我们才有计算参数梯度的需求。当然,神经网络已经给了我们目标函数的表达方式,因此,计算梯度其实是一件很显而易见的事情,问题在于,如果更加高效简单的计算,而且具有通用性,这才是这个优化问题的核心所在,BP算法的特点就是高效...原创 2021-09-12 17:15:51 · 757 阅读 · 0 评论 -
理解两个函数乘积的导数的一种视角
令z(x)=f(x)g(x)。通过乘法求导公式,会很容易通过f(x)和g(x)的导数得到z(x)的导数,当然背公式的事情不值一提。本文在于如何去理解这个导数公式,怎么去推导。 首先第一种方式是通过导数的定义去推导,这个其实也简单,只需要根据定义,写出定义方程,然后做一些简单的变换即可,这种方式也不能给我们更多的insight。所以本文想说的其实是下面的第二种方式。 另外一种方式是将f(x)和g(x)看成不同的个体,先忽略之间的关联,为避免歧义,我们把属于不同部分...原创 2021-09-05 16:40:38 · 4105 阅读 · 0 评论 -
主成分分析(PCA)的一种理解和推导
主成分分析的语境一般如下:假设需要预测的变量y由k个因素所制约,但是k比较大,使得数据维度较高,为了降低维度,简化计算以及缓解shu原创 2021-06-20 23:01:56 · 689 阅读 · 2 评论 -
为什么点积如此定义?
两个向量的点积定义如下:原创 2021-06-20 12:21:01 · 830 阅读 · 0 评论 -
为什么总是标准正交基(标准直角坐标系)?
坐标系的作用是什么?简单的一句换就是,坐标系是拿来描述点的位置的。要对事物进行分析,无论是量化分析还是抽象分析,需要首先dui'shi'wu原创 2021-06-20 10:33:40 · 1599 阅读 · 1 评论