1879|0

3836

帖子

19

TA的资源

纯净的硅(中级)

楼主
 

如何避免浮点或双精度浮点精度错误? [复制链接]

有一个很麻烦的问题,在Java中有很长的浮动或双倍。基本上这个想法是,如果我执行:
for ( float value = 0.0f; value < 1.0f; value += 0.1f )
    System.out.println( value );
我得到的是:

0.0
0.1
0.2
0.3
0.4
0.5
0.6
0.70000005
0.8000001
0.9000001
我明白浮动精度误差有一个积累,但是如何摆脱这个呢?我尝试使用双打的一半的错误,但结果仍然是一样的。

有任何想法吗?

没有精确的0.1表示为浮点或双倍。由于这种表示错误,结果与您预期的结果略有不同。
可以使用几种方法:

>当使用双重类型时,只显示所需数量的数字。当检查相等时,可以允许一个小的公差。
>或者使用一种类型,允许您存储正在尝试代表的数字,例如,BigDecimal可以准确地表示0.1。

BigDecimal的示例代码:

BigDecimal step = new BigDecimal("0.1");
for (BigDecimal value = BigDecimal.ZERO;
     value.compareTo(BigDecimal.ONE) < 0;
     value = value.add(step)) {
    System.out.println(value);
}

点赞 关注
 

回复
举报
您需要登录后才可以回帖 登录 | 注册

随便看看
查找数据手册?

EEWorld Datasheet 技术支持

相关文章 更多>>
关闭
站长推荐上一条 1/10 下一条

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 国产芯 安防电子 汽车电子 手机便携 工业控制 家用电子 医疗电子 测试测量 网络通信 物联网

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编:100190

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved
快速回复 返回顶部 返回列表