• java浮点数精度问题解决方法


    基础知识回顾:

    BigDecimal.setScale()方法用于格式化小数点
    setScale(1)表示保留一位小数,默认用四舍五入方式 
    setScale(1,BigDecimal.ROUND_DOWN)直接删除多余的小数位,如2.35会变成2.3 
    setScale(1,BigDecimal.ROUND_UP)进位处理,2.35变成2.4 
    setScale(1,BigDecimal.ROUND_HALF_UP)四舍五入,2.35变成2.4
    setScaler(1,BigDecimal.ROUND_HALF_DOWN)四舍五入,2.35变成2.3,如果是5则向下舍
     
     
    下面来说说java中浮点数精度的问题:
    float和double类型:
    当我们用上述的函数(BigDecimal)进行四舍五入的时候,我们都知道是要看数字的尾数,也就是例如:1.25,如果要保留一位小数的时候,我们要看尾数5,
    做四舍五入的时候,无论是1.21,1.22,1.23,1.24还是1.26。。都没有问题,只有到1.25的时候,我们得到的四舍五入的结果是1.24,
    分析得出:
    当 double x=1.25;的时候,在计算机表示的是1.24999999999,所以当我们四舍五入的时候就会出现等于1.24的情况。
    解决方案就是:我们传入BigDecimal函数的时候传入字符串类型就可以啦!例如:BigDecimal.setScale(“1.25”)
     
    下面是网上的一个小工具类,很好用!
     

    import java.math.BigDecimal;

    /**
    * 由于Java的简单类型不能够精确的对浮点数进行运算,这个工具类提供精 确的浮点数运算,包括加减乘除和四舍五入。
    */
    public class Arith {
    // 默认除法运算精度
    private static final int DEF_DIV_SCALE = 10;

    // 这个类不能实例化
    private Arith() {
    }

    /**
    * 提供精确的加法运算。
    *
    * @param v1
    * 被加数
    * @param v2
    * 加数
    * @return 两个参数的和
    */
    public static double add(double v1, double v2) {
    BigDecimal b1 = new BigDecimal(Double.toString(v1));
    BigDecimal b2 = new BigDecimal(Double.toString(v2));
    return b1.add(b2).doubleValue();
    }

    /**
    * 提供精确的减法运算。
    *
    * @param v1
    * 被减数
    * @param v2
    * 减数
    * @return 两个参数的差
    */
    public static double sub(double v1, double v2) {
    BigDecimal b1 = new BigDecimal(Double.toString(v1));
    BigDecimal b2 = new BigDecimal(Double.toString(v2));
    return b1.subtract(b2).doubleValue();
    }

    /**
    * 提供精确的乘法运算。
    *
    * @param v1
    * 被乘数
    * @param v2
    * 乘数
    * @return 两个参数的积
    */
    public static double mul(double v1, double v2) {
    BigDecimal b1 = new BigDecimal(Double.toString(v1));
    BigDecimal b2 = new BigDecimal(Double.toString(v2));
    return b1.multiply(b2).doubleValue();
    }

    /**
    * 提供(相对)精确的除法运算,当发生除不尽的情况时,精确到 小数点以后10位,以后的数字四舍五入。
    *
    * @param v1
    * 被除数
    * @param v2
    * 除数
    * @return 两个参数的商
    */
    public static double div(double v1, double v2) {
    return div(v1, v2, DEF_DIV_SCALE);
    }

    /**
    * 提供(相对)精确的除法运算。当发生除不尽的情况时,由scale参数指 定精度,以后的数字四舍五入。
    *
    * @param v1
    * 被除数
    * @param v2
    * 除数
    * @param scale
    * 表示表示需要精确到小数点以后几位。
    * @return 两个参数的商
    */
    public static double div(double v1, double v2, int scale) {
    if (scale < 0) {
    throw new IllegalArgumentException(
    "The scale must be a positive integer or zero");
    }
    BigDecimal b1 = new BigDecimal(Double.toString(v1));
    BigDecimal b2 = new BigDecimal(Double.toString(v2));
    return b1.divide(b2, scale, BigDecimal.ROUND_HALF_UP).doubleValue();
    }

    /**
    * 提供精确的小数位四舍五入处理。
    *
    * @param v
    * 需要四舍五入的数字
    * @param scale
    * 小数点后保留几位
    * @return 四舍五入后的结果
    */
    public static double round(double v, int scale) {
    if (scale < 0) {
    throw new IllegalArgumentException(
    "The scale must be a positive integer or zero");
    }
    BigDecimal b = new BigDecimal(Double.toString(v));
    BigDecimal one = new BigDecimal("1");
    return b.divide(one, scale, BigDecimal.ROUND_HALF_UP).doubleValue();
    }
    }

     
  • 相关阅读:
    electron 显示对话框 showMessageBoxSync showMessageBox
    c++ 随机数 取值范围 多线程
    c++ 字符串转换为数字
    VS2019 C++动态链接库的创建使用(1)
    js mutationobserver property vs attribute
    Chromium base 基础库概览
    Git:合并分支----git merge命令应用的三种情景
    chromium 处理 addEventListener 事件
    JavaScript监听属性改变
    chrome 启动开关参数
  • 原文地址:https://www.cnblogs.com/xwgcxk/p/7340115.html
Copyright © 2020-2023  润新知