• double类型运算异常


    对于两个double类型的数值运算,有时会出现结果值异常的情况。

    看如下代码:

    public class DoubleTest {
        public static void main(String[] args) {
            System.out.println(19.99+20);
            System.out.println(1.0-0.66);
            System.out.println(0.033*100);
            System.out.println(12.3/100);
        }
    }

    对于以上的四则运算,我们可以很容易的计算出结果39.99, 0.34, 3.3 ,0.123,然而计算机运行结果如下:

    Java中的简单浮点数类型float和double不能够进行运算,因为大多数情况下是正常的,但是偶尔会出现如上所示的问题。这个问题其实不是JAVA的bug,因为计算机本身是二进制的,而浮点数实际上只是个近似值,所以从二进制转化为十进制浮点数时,精度容易丢失,导致精度下降。

    解决方法:

    要保证精度就要使用BigDecimal类,而且不能直接从double直接转BigDecimal,要将double转string再转BigDecimal。也就是不能使用BigDecimal(double val) 方法,你会发现没有效果。要使用BigDecimal(String val) 方法。

    1.相加

    public static double add(double a1, double b1) {
            BigDecimal a2 = new BigDecimal(Double.toString(a1));
            BigDecimal b2 = new BigDecimal(Double.toString(b1));
            return a2.add(b2).doubleValue();
        }

    2.相减

    public static double sub(double a1, double b1) {
            BigDecimal a2 = new BigDecimal(Double.toString(a1));
            BigDecimal b2 = new BigDecimal(Double.toString(b1));
            return a2.subtract(b2).doubleValue();
        }

    3.相乘

    public static double mul(double a1, double b1) {
            BigDecimal a2 = new BigDecimal(Double.toString(a1));
            BigDecimal b2 = new BigDecimal(Double.toString(b1));
            return a2.multiply(b2).doubleValue();
        }

    4.相除

    public static double div(double a1, double b1, int scale) {
            if (scale < 0) {
                throw new IllegalArgumentException("error");
            }
            BigDecimal a2 = new BigDecimal(Double.toString(a1));
            BigDecimal b2 = new BigDecimal(Double.toString(b1));
            return a2.divide(b2, scale, BigDecimal.ROUND_HALF_UP).doubleValue();
        }

    使用这些方法,我们再次计算一次结果:

  • 相关阅读:
    win10 redis安装教程
    tomcat 最大并发连接数设置
    LeetCode 82 ——删除排序链表中的重复元素 II
    LeetCode 83 —— 删除排序链表中的重复元素
    LeetCode 61——旋转链表
    LeetCode 24——两两交换链表中的节点
    C++ 学习笔记之——文件操作和文件流
    LeetCode 4——两个排序数组中的中位数
    z 变换
    冲激串采样
  • 原文地址:https://www.cnblogs.com/Gazikel/p/14032703.html
Copyright © 2020-2023  润新知