Matlab控制精度

最新推荐文章于 2024-09-24 08:30:00 发布

魏王天下

最新推荐文章于 2024-09-24 08:30:00 发布

阅读量2.2k

点赞数 1

分类专栏： Matlab 文章标签： matlab 数值计算

本文链接：https://blog.csdn.net/cckit/article/details/41603395

版权

Matlab 专栏收录该内容

80 篇文章

订阅专栏

控制精度

matlab控制运算精度用的是digits和vpa这两个函数
digits用于规定运算精度，比如：

digits(20);

这个语句就规定了运算精度是20位有效数字。但并不是规定了就可以使用，因为实际编程中，我们可能有些运算需要控制精度，而有些不需要控制。vpa就用于解决这个问题，凡是用需要控制精度的，我们都对运算表达式使用vpa函数。例如：
digits(5);
a=vpa(sqrt(2));
这样a的值就是1.4142，而不是准确的1.4142135623730950488016887242097
又如：

digits(5);

a=vpa(sqrt(2));

b=sqrt(2);

这样a的值是1.4142，b没有用vpa函数，所以b是1.4142135623730950488016887242097......

vpa函数对其中每一个运算都控制精度，并非只控制结果。

digits(11);

a=vpa(2/3+4/7+5/9);

b=2/3+4/7+5/9;

a的结果为1.7936507936，b的结果为1.793650793650794......也就是说，计算a的值的时候，先对2/3，4 /7，5/9这三个运算都控制了精度，又对三个数相加的运算控制了精度。而b的值是真实值，对它取11位有效数字的话，结果为1.7936507937，与a不同，就是说vpa并不是先把表达式的值用matlab本身的精度求出来，再取有效数字，而是每运算一次，都控制精度。例子不太好，因为加法不太会增加数字位数。