MATLAB中控制运算精度 :
format long 只能设置显示精度,并不能控制运算精度。
在MATLAB中,控制运算精度一般使用 digits 和 vpa。
##算例
vpa方法
digits(5); %定义精度
a=vpa(sqrt(2)); %a=1.4142
matlab学习笔记
最新推荐文章于 2024-10-07 14:32:48 发布
MATLAB中控制运算精度 :
format long 只能设置显示精度,并不能控制运算精度。
在MATLAB中,控制运算精度一般使用 digits 和 vpa。
##算例
vpa方法
digits(5); %定义精度
a=vpa(sqrt(2)); %a=1.4142