Matlab的浮点数是在进行逻辑操作必须考虑的一个问题,特别是计算生成的浮点数,matlab仅仅显示一个浮点数的某几位小数部分以前的,这样在做比较的时候,看似相同的两个数其实是不同的,这样的两个数在参与计算的结果的同时,就有可能产生浮点数表示相同的两个值。从而对编程造成困扰。解决办法就是在比较两个非用户指定的两个浮点数之前,对计算得到的两个浮点数进行round操作,这样就可以完全避免这件事情。
Matlab的浮点数处理问题
最新推荐文章于 2022-06-02 14:38:27 发布
Matlab的浮点数是在进行逻辑操作必须考虑的一个问题,特别是计算生成的浮点数,matlab仅仅显示一个浮点数的某几位小数部分以前的,这样在做比较的时候,看似相同的两个数其实是不同的,这样的两个数在参与计算的结果的同时,就有可能产生浮点数表示相同的两个值。从而对编程造成困扰。解决办法就是在比较两个非用户指定的两个浮点数之前,对计算得到的两个浮点数进行round操作,这样就可以完全避免这件事情。