数学基础
文章平均质量分 84
生信小兔
一枚生信小兔,专研于深度学习与机器学习算法,并利用数学方法,物理模型与化学研究生化,分子与细胞生物学,免疫,发育生物学等问题。
展开
-
自动微分(Auto differentiation)机制详解
自动微分法的原理与算法实现原创 2022-10-19 22:10:51 · 5112 阅读 · 0 评论 -
梯度(gradient)、散度(divergence)与旋度(rotation)
梯度、散度与旋度相关概念原创 2022-08-29 15:14:12 · 19411 阅读 · 1 评论 -
离散傅里叶变换(DFT)
DFT变换基本原理与算法实现原创 2022-08-03 15:06:15 · 21406 阅读 · 2 评论 -
模糊数学(Fuzzy Mathematics)理论基础
模糊数学理论基础原创 2022-07-13 10:30:18 · 13883 阅读 · 1 评论 -
欧几里得变换(Euclidean transformation)详解
欧式变换:旋转、平移与反射变换详解。原创 2022-07-05 09:00:37 · 7722 阅读 · 3 评论 -
欧拉法(Euler‘s method)求常微分方程(ODE)近似解
求微分方程的近似解在实际问题的解决中具有极其重要的作用,因为在大多情况下我们很难求出微分方程的函数表达式,或是表达式过于复杂,此时便可以用数值计算的方法求该微分方程的近似解。欧拉法便是其中一种最为简单的求常微分方程近似解的方法,该方法较为简单,同时也有比较明显的缺陷,但也是其它的求解微分方程近似解方法的基础。算法原理欧拉法求解过程是一个递归的过程,这个思想和牛顿法、梯度下降法是相似的。并且它将函数离散化,分割成一个个小段来求解。欧拉法求解的常微分方程的形式通常为:右边是关于x,y的任意函数,原创 2022-05-28 08:34:16 · 13124 阅读 · 1 评论 -
多元函数牛顿法求函数极小值
多元函数牛顿法求极小值是对一元函数牛顿法的延申,关于一元函数牛顿法,可以看兔兔的《牛顿法(Newton's method)求函数极小值》一文。(一)算法原理与一元函数形式相似,但是又有很大的区别。首先,兔兔先介绍两个需要用到的基本概念:Hession矩阵和梯度。对于一个多元函数,有n个自变量,为n元函数,其Hession矩阵形式如下:并且自变量(向量x)为:函数的梯度定义为:例如对于二元函数,它的梯度就是。其Hession矩阵为:从本质上来说,多元函数梯度对应就是原创 2022-05-10 12:44:02 · 4090 阅读 · 0 评论 -
牛顿法(Newton‘s method)求函数极小值
牛顿法一般指牛顿迭代法,也叫做牛顿-拉夫逊(拉弗森)方法(Newton-Raphson method),其最初的作用是用来求解函数的零点,但是也可以像梯度下降方法一样,以迭代的形式来求函数的极值。而事实上,牛顿法求零点和极值的思想是一样的,因为函数的极值点对应就是函数的导数的零点(但导数零点有时可能是函数的极大、极小或驻点)。所以牛顿法求函数极小值还是有许多的问题的。(一)牛顿法求零点。(1)基本原理牛顿法的思想就是在函数曲线上初始一个点,做该点的切线与x轴交于x0,然后再过(x0,f(x0))原创 2022-05-10 10:50:52 · 11026 阅读 · 2 评论 -
判别分析(1)——距离判别法
判别分析是多元统计分析的内容,其作用在分类确定的条件下,根据某一研究对象的各种特征的值来判断其归属于哪一类(即总体)。实际上,这一类问题就是根据已有的样本数据与对应的类别,判断未知类别的数据属于哪一类。像逻辑回归、支持向量机等从某种意义上来说也属于是判别分析的一种,只不过这些算法需要根据样本对模型进行训练,从而能够利用未知数据的各个指标判断其属于哪一类;而统计学中的判别分析,并没有利用数据进行训练,而是按照一定的判别准则、建立判别函数来判断新的数据属于哪一类。判别分析有许多的方法。本文讲述的是判别分析比原创 2022-04-23 20:55:15 · 10919 阅读 · 1 评论 -
相似性度量(距离度量)方法(二):字符串(文本)相似性度量
在本篇文章中,兔兔讲述字符串的相似性(距离)度量方法与算法实现。(1)海明距离。根据(一)篇当中的内容,我们已经知道了海明距离的度量方法。即判断字符串对应位置是否相等。def Hamming_distance(list1,list2): n=len(list1) #n为列表长度,且list1与list2长度相等 s=0 for i in range(n): if list1[i]==list2[i]: s+=1 e原创 2022-04-21 20:57:19 · 2076 阅读 · 0 评论 -
相似性度量(距离度量)方法(一):基本种类与公式
相似性度量(或距离度量)方法在多元统计中的聚类分析、判别分析中的距离判别法、泛函分析、机器学习等方面都有应用。所以对于数据分析、机器学习等方面,掌握相似性的不同度量方法是十分重要且必要的。相似性度量与距离度量本质上是同一件事情。如果两组数据之间的距离越大,那么相似性越小;反正,如果相似性越大,那么距离越小,这是可以直观理解的。但是距离度量与相似度量还是有一点点区别的。距离度量,一般情况下距离是大于0的数;而相似性或相异性通常数值介于[0,1]之间。相似性与相异性统称为邻近度。对于相似性的度量,首原创 2022-04-20 16:22:45 · 26617 阅读 · 4 评论 -
轮盘赌算法概述
轮盘赌算法概述轮盘赌算法算是应用比较广泛的一种算法,在很多算法模型都可以看到该算法的身影。而它本身也的确比较简单,只不过与其它算法结合在一起时,就不是很容易看得出轮盘赌算法了。算法本质该算法本质就是转盘,看转盘停下时停在转盘的哪个区域。而转盘停在哪个区域与转盘的区域面积正相关。对于上面的转盘,当我们转动时,指针停在绿色区域概率就是0.6,蓝色是0.1,橙色是0.3。在实际应用中,我们得到根据各个解的概率去选择一个解,就相当于轮盘赌。兔兔介绍两种实现方法。实现方法(1)使用choice函数在原创 2022-04-02 12:00:17 · 10908 阅读 · 0 评论 -
线性回归(线性拟合)与非线性回归(非线性拟合)原理、推导与算法实现(一)
关于回归和拟合,从它们的求解过程以及结果来看,两者似乎没有太大差别,事实也的确如此。从本质上说,回归属于数理统计问题,研究解释变量与响应变量之间的关系以及相关性等问题。而拟合是把平面的一系列点,用一条光滑曲线连接起来,并且让更多的点在曲线上或曲线附近。更确切的说,拟合是回归用到的一种数学方法,而拟合与回归的应用场合不同。拟合常用的方法有最小二乘法、梯度下降法、高斯牛顿(即迭代最小二乘)、列-马算法。其中最最常用的就是最小二乘法。并且拟合可以分为线性拟合与非线性拟合,非线性拟合比较常用的是多项式拟合。根据自变原创 2022-03-31 17:19:59 · 39049 阅读 · 7 评论 -
矩阵求导(本质、原理与推导)详解
矩阵求导详解原创 2022-03-29 13:54:44 · 25508 阅读 · 12 评论