社区导航

 

搜索
查看: 113|回复: 0

[资料分享] 如何避免浮点或双精度浮点精度错误?

[复制链接]

6412

TA的帖子

19

TA的资源

纯净的硅(初级)

Rank: 4

发表于 2020-4-5 19:30 | 显示全部楼层 |阅读模式

有一个很麻烦的问题,在Java中有很长的浮动或双倍。基本上这个想法是,如果我执行:
for ( float value = 0.0f; value < 1.0f; value += 0.1f )
    System.out.println( value );
我得到的是:

0.0
0.1
0.2
0.3
0.4
0.5
0.6
0.70000005
0.8000001
0.9000001
我明白浮动精度误差有一个积累,但是如何摆脱这个呢?我尝试使用双打的一半的错误,但结果仍然是一样的。

有任何想法吗?

没有精确的0.1表示为浮点或双倍。由于这种表示错误,结果与您预期的结果略有不同。
可以使用几种方法:

>当使用双重类型时,只显示所需数量的数字。当检查相等时,可以允许一个小的公差。
>或者使用一种类型,允许您存储正在尝试代表的数字,例如,BigDecimal可以准确地表示0.1。

BigDecimal的示例代码:

BigDecimal step = new BigDecimal("0.1");
for (BigDecimal value = BigDecimal.ZERO;
     value.compareTo(BigDecimal.ONE) < 0;
     value = value.add(step)) {
    System.out.println(value);
}



回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

关闭

站长推荐上一条 1/7 下一条

  • 论坛活动 E手掌握

    扫码关注
    EEWORLD 官方微信

  • EE福利  唾手可得

    扫码关注
    EE福利 唾手可得

Archiver|手机版|小黑屋|电子工程世界 ( 京ICP证 060456 )

GMT+8, 2020-6-1 16:26 , Processed in 0.116690 second(s), 20 queries , Gzip On, MemCache On.

快速回复 返回顶部 返回列表