最近在测试VxWorks程序时,新增加了一个浮点数处理函数A,任务中需要以传参的方式调用函数A,然后函数A将以指针方式返回计算结果。
出现的问题是:固定传参条件下,函数A返回的浮点数值会随机变化。
排查问题时发现传入函数A的某个浮点参数arg的原始值为32768.0,但在函数A中变为了NaN。
最开始怀疑是任务堆栈大小不够了,扩大堆栈,问题依旧。
最后才发现是在初始化任务A时,没有使用浮点数选项VX_FP_TASK,添加后,不再出现函数返回值随机变化的问题。
查阅资料发现,如果在没有使用VX_FP_TASK选项的任务中执行浮点数运算,会导致在任务切换时浮点数寄存器中的值异常,也就会导致计算值随机变化。