matlab精度控制

转载请注明出处:http://blog.csdn.net/yf210yf


1.数值型 roundn—任意位位置四舍五入 

>>a=123.4567890; 
>>a=roundn(a,-4) 
a =   123.4568 

其中roundn函数功能如下:    


y = ROUNDN(x) rounds the input data x to the nearest hundredth.   %不指定n,精确到百分位 

y = ROUNDN(x,n) rounds the input data x at the specified power    %精确到小数点后指定位数n  


2.符号型 

digits(4) 
vpa(....) 

必须说明:vpa命令不能识别整数与小数,只算总位数,因此对它来说小数整数无论哪个都占一位,例如对9.3154保留两位小数时就得写成:

>>a=9.3154; 
>>digits(3) 
>>b=vpa(a) 
b=      9.32 

其中b为符号型变量; 


3.字符型 

>>a=12.34567; 
>>b = sprintf('%8.2f',a) 
b =    12.35 

其中b为字符型变量。


Format命令
控制显示模式,直到下一个format出现前,这条format命令一直有效。


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值