51单片机浮点运算误差问题

zzxuzz

51单片机浮点运算误差问题 [复制链接]

请问一下 ，用stc89c52做浮点运算后， 取小数点后2位，有时有0.01误差是怎么回事，单片机做浮点运算精度如何？？

zhuoyue

飘过

辛昕

说具体点。
理论上，二进制小数，总是会有误差的。

l18230365

二进制小数的存储是对于大多数小数来说是一个趋近数。

精度跟你表示数值的范围有关，详细的精度大小可以参照C语言程序设计里数据类型对浮点数一章的描述。

其实精度没你说的那么差，我认为你所说的0.01是因为你检测方法有误导致认为精度就是这个。

 

譬如一个1.56的数值，浮点数存储之后是也许是 1.5600001，但也有可能是1.5599999，当你把数据取整用来显示的时候，你会取2位有效数字，可想而知，如果存储结果是第一种情况，那么你读到的数值是1.56，如是第二种你读到的结果是1.55，所以你理所当然的认为精度是0.01。

 

其实关于这个显示精度，我觉得比较好是做法就是，当你显示的精度需求是0.01时，你可以让浮点数加上0.001之后再取整，那么就是你想要是数字啦。
但当你只是需要浮点数运算的时候，大可不必如此。

[ 本帖最后由 l18230365 于 2011-8-19 01:06 编辑 ]

leang521

典型的计算误差问题，温习下工程数学里的计算方法这门课，特别是数值计算这章