科学计算与数学建模,郑洲顺老师
平台——学堂在线 https://www.xuetangx.com/course/CSU07011000630/5882763?channel=learn_title
首先,复习上节重点
问题的转化:用二阶导函数这一微分工具求出三次样条插值函数的方法,把解4n个未知数的问题进行了简化
+问题,如何解决测量误差的问题?
哪一个周期函数是靠近这些点的?思维从“插值”到“拟合”,而拟合函数类里面怎样找最好的?什么是最好的?标准?
常用的曲线拟合方法,最小二乘法
假设拟合函数,可以用一组基函数线性表示
对偏差(残差)进行代数的定义后,产生了如下三种“最佳拟合函数”标准:
+重点,第三种,平方后,把绝对值去掉
选择偏差平方和最小的方法—— 最小二乘法
线性最小二乘问题
函数表示为span{φ1,φ2,…, φn},由一组基函数形成的函数空间,在这个空间中,找到偏差平方和最小的具体的那个函数
—— 最小二乘问题的最小二乘解
方法,确定基函数
根据平方和最小,求出拟合函数中的系数
高等数学求偏导,得到φ方程
驻点,并非最小值点
希望有唯一解,系数行列式不为零,需要满足一定的条件
—— 法方程系数中的n+1个m维向量线性无关
进一步讨论多项式拟合
令φ0 = 1, φ1 = x,。。。, φn= x^n
用代数多项式来拟合
得到相应的法方程组,解出方程
实例1,铝合金的含铝量和溶解温度的关系
第一步,把数据以几何形式在坐标纸上画出来
+pad绘图,决定用直线进行最小二乘拟合
第二步,确定函数,用直线来进行拟合,y=ax+b,建立法方程
第四步,解法方程组得到结果
+问题,求解完了就结束了吗?
直线中最好得,是全部函数中最好的吗?
如何评价?
用均方误差来评判好坏,得到5.164,再除以样本个数m,得到估计值
最后分析误差能不能接受—— 误差不能接受—— 换新的拟合函数
在很多实际工程中,会是线性最小二乘问题吗?
实例2,生成物浓度y%与化学反应时间t的数据表,建立y与t的关系
第一步,
根据实验数据和工程背景观察数据,当t趋于无穷大时,有一条渐近线;并且初始随着t的增加而上升,但上升速度由快到慢,t=0时反应未开始,y=0;
第二步,假设拟合函数
(1)双曲线,y = t/ (at+b)。 t趋于无穷时极限是1/a
问题,导致求解非线性方程组
+技巧
数学的思想,转换的方法—— 变量替换,转换为线性拟合的问题
(并非所有都能解决)
改写拟合函数 1/y = a + b/t 把1/y看作新变量y1. 1/t 看成t1
得到(a*,b*),把非线性的拟合问题求出
(2)y = ae^(b/t),a>0, b<0
转化,lny = lna + b/t
y2 = lny, t2 = 1/t; 再次非线性——> 线性
数据表重新计算后代入数据——> 求出最小二乘拟合
- 自己画图,双曲线和e为底数的指数函数,以及为什么直觉的log不行?
log函数在取向无穷大时,其极限也趋向无穷
在此场景中不符合工程实际情况,不能用作拟合基函数
+问题,对拟合还有什么改进?
实验数据都同等重要吗?(数据质量问题)
地位,作用,精度?怎么区分
+权重
加权最小二乘法
比如做一辆车,通过限高两米的桥洞,那么汽车外观模型最高的那一点的重要性肯定远大于其他点
原来平方和最小,所有点重要性相同
现在给一组权重,(φk,φj)内积改变,形成新的法方程组
概述:赋权是不赋权的一般情况,反之特殊情况
求函数近似值的拟合算法
+问题,若m >> n+1,当n较大时,n>=7,法方程组往往是病态的。直接求解会有问题,如何转化?
去观察,法方程组
法方程的特点:对称矩阵
-
找到适当的一组基函数,系数矩阵里有足够多个零 最好,只有对角线元素不为零,转变为求n+1个一元一次方程(对角方程) 两个向量内积为零——
向量正交 希望基函数具备性质:关于给定的点,只有自己和自己的内积>0正交函数组下,a0,…,ak表达式简单,非常好解
带权的正交多项式—— 其中的一种正交函数组
得到一组正交多项式
实例3,城市供水量预测的简单方法
1、插值办法
2、拟合办法
供水量增长率估计与数值微分
知道怎么变换的,未知函数的增长速率怎么样?(未知函数一阶导数)
用近似函数的微分来近似未知函数的微分
(1)插值型微分公式
-
我们希望(f(x) - φ(x))的导数足够小,那么等效为一个函数足够小,导数足够小? 不成立!
即使能保证函数近似足够高,不能保证一阶近似值足够高用插值函数,在哪些点是足够准确的呢?
-
余项的导数可分解为两部分 在节点处的导数作为节点处的未知函数的近似值,是可行的
因为,ξ是关于x的函数,假如余项足够小,余项的导数第一项就足够小,
而第二项含有ω(x),是我们算的点和所有点的差值(见下图),当x为节点值时,余项的导数第二项为零,那么产生的误差只有第一项(附上节课截图,ω(x)代表了计算点和已知点的差值乘积) -
所以节点处插值函数一阶导数的截断误差为,上图余项导数求解后的第一项
当n=2时,有两点公式,插值点为x0、x1、x2
三点处的插值函数导数有:
+自己总结
- 原函数足够精确,导数不一定误差在可接受范围内;但是,从一阶导数的展开式中,可知,部分特殊节点能保证精确度
- 利用正交矩阵的性质来构造带权的正交多项式作为基函数,能简化计算过程
- 函数形状相似,不代表就能用作拟合函数
如log函数图像,形状类似本章中的实例2,但是在极限处性质大相径庭,在以后的工作和学习中应该予以注意,抓住重点细节:经过的特殊点、函数极限等- 可用均方误差来估计拟合模型产生的误差,并在模型构建完后,对误差可接受度进行估计,若不能被接受,进一步换新的拟合函数
+问题,那么插值多项式Pn(x)作为f(x)近似函数,还有什么用处呢?
——> 见后续