Matlab:精度控制

#前言
在进行精细计算的时候,之前没有考虑到的一些问题也就冒了出来,计算机内部数据毕竟是离散存储的,不可能像手推公式时那样,纯理论实数域运算。
#正文
MATLAB中控制运算精度 :
format long 只能设置显示精度,并不能控制运算精度。
在MATLAB中,控制运算精度一般使用 digits 和 vpa。
示例:
digits %显示当前运算精度
digits(n) %设定默认的精度
vpa(x,n) %表示将s表示为n位有效数的符号对象
如果不设定digits(n) ,系统默认为32位
需要注意:
1,vpa算出的值为符号变量,可以进行初等运算,但不能进行关系运算等;
2,vpa的运算速度比MATLAB标准函数要慢。

阅读更多
换一批

没有更多推荐了,返回首页