• BigDemical用float或者double丢失精度问题


    BigDecimal bdTest = new BigDecimal(1.745);
    BigDecimal bdTest1 = new BigDecimal(0.745);
    bdTest = bdTest.setScale(2, BigDecimal.ROUND_HALF_UP);
    bdTest1 = bdTest1.setScale(2, BigDecimal.ROUND_HALF_UP);
    System.out.println("bdTest:" + bdTest); // 1.75
    System.out.println("bdTest1:" + bdTest1); // 0.74

    运行以上代码可以看到,1.745四舍五入的结果是1.75,0.745四舍五入的结果是0.74。

    原因:
    使用参数为float或double的BigDecimal创建对象会丢失精度。因此强烈建议不要使用参数为float或double的BigDecimal创建对象。

    System.out.println(new BigDecimal(1.745)); // 1.74500000000000010658141036401502788066864013671875
    System.out.println(new BigDecimal(0.745)); // 0.74499999999999999555910790149937383830547332763671875

    解决办法:
    1. 使用BigDecimal(String val)的构造方法创建对象
    new BigDecimal("1.745");
    new BigDecimal("0.745");
    2. 使用使用BigDecimal的valueOf(double val)方法创建对象
    BigDecimal.valueOf(1.745);
    BigDecimal.valueOf(0.745);
    ————————————————

    原文链接:https://blog.csdn.net/zongzhankui/article/details/79591294

  • 相关阅读:
    NOI2015刷题记录
    [WC2013][UOJ58]糖果公园 莫队算法
    啦啦啦~
    完全平方数
    构建之法
    测试更新
    程序的测试
    程序的封装
    构建之法5.5-6-7章观后感
    给徐侃童鞋的一个汉堡
  • 原文地址:https://www.cnblogs.com/tnt-33/p/11434571.html
Copyright © 2020-2023  润新知