• double类型相减有小数误差


    如 :19.9-9.9=9.9999999999999,而不是10double相减会转换成二进制,因double有效位数为 16位这就会出现存储小数位数不够的情况,这种情况下就会出现误差

     //两个Double数相加

      public static Double add(Double v1,Double v2){

      BigDecimal b1 = new BigDecimal(v1.toString());

      BigDecimal b2 = new BigDecimal(v2.toString());

      return b1.add(b2).doubleValue();

      }

      //两个Double数相减

      public static Double sub(Double v1,Double v2){

      BigDecimal b1 = new BigDecimal(v1.toString());

      BigDecimal b2 = new BigDecimal(v2.toString());

      return b1.subtract(b2).doubleValue();

      }

      // 两个Double数相乘

      public static Double mul(Double v1,Double v2){

      BigDecimal b1 = new BigDecimal(v1.toString());

      BigDecimal b2 = new BigDecimal(v2.toString());

      return b1.multiply(b2).doubleValue();

      }

      //两个Double数相除

      public static Double div(Double v1,Double v2){

      BigDecimal b1 = new BigDecimal(v1.toString());

      BigDecimal b2 = new BigDecimal(v2.toString());

      return b1.divide(b2,DEF_DIV_SCALE,BigDecimal.ROUND_HALF_UP).doubleValue();

      }

      //两个Double数相除,并保留scale位小数

      public static Double div(Double v1,Double v2,int scale){

      if(scale<0){

      throw new IllegalArgumentException(

      "The scale must be a positive integer or zero");

      }

      BigDecimal b1 = new BigDecimal(v1.toString());

      BigDecimal b2 = new BigDecimal(v2.toString());

      return b1.divide(b2,scale,BigDecimal.ROUND_HALF_UP).doubleValue();

      }

      //进行四舍五入

       BigDecimal b1 = new BigDecimal(d);
           BigDecimal b2 = new BigDecimal(1);
            // 任何一个数字除以1都是原数字
            // ROUND_HALF_UP是BigDecimal的一个常量,
    表示进行四舍五入的操作
            return b1.divide(b2, len,BigDecimal.
    ROUND_HALF_UP).doubleValue();

      }

  • 相关阅读:
    《构建高性能web站点》阅读笔记(三)
    哈希表的C实现(一)
    《大规模web服务开发技术》阅读笔记
    CentOS搭建python开发环境
    Instagram的技术探索(2)
    CentOS5.5编译安装gvim7.3 失败记录
    由于启动用户实例的进程时出错,导致无法生成 SQL Server 的用户实例。该连接将关闭
    wp开发中解决gb2312的编码问题
    WP8 SDK 视图设计器 未将对象设置到对象的实例解决方法
    Oracle误删表的恢复
  • 原文地址:https://www.cnblogs.com/rdchen/p/9599103.html
Copyright © 2020-2023  润新知