• Java如何精确计算小数(Float和Double和BigDecimal)


    一、浮点计算中发生精度丢失

    无论你使用的是什么编程语言,在使用浮点型数据进行精确计算时,你都有可能遇到计算结果出错的情况。

    public class FloatTest {
        public static void main(String[] args) {
            float f1 = 6.6f;
            float f2 = 1.3f;
            System.out.println(f1 + f2);
        }
    }
    
    *************************************
    结果:7.8999996 

    二、为何会出现精度丢失

    为什么会这样呢? 因为float和double都是浮点数, 都有取值范围,都有精度范围。

    计算机只认识0和1,所有类型的计算首先会转化为二进制的计算。我们demo里的6.6是十进制的,计算机不能直接识别,要先编译成二进制,在这个过程中发生了精度丢失。

    具体请参考:《从计算机二进制角度计算 6.6 + 1.3 的过程》

    三、如何使用浮点数进行精确计算

    事实上,浮点数并不适合用于精确计算,而适合进行科学计算。这里有一个小知识:既然float和double型用来表示带有小数点的数,那为什么我们不称 它们为“小数”或者“实数”,要叫浮点数呢?因为这些数都以科学计数法的形式存储。当一个数如50.534,转换成科学计数法的形式为5.053e1,它 的小数点移动到了一个新的位置(即浮动了)。可见,浮点数本来就是用于科学计算的,用来进行精确计算实在太不合适了。

    如果是计算金额必须是完全精确的计算, 故不能使用double或者float, 有以下两个方法:

    1.采用java.math.BigDecimal.---参考:《java 中 BigDecimal 详解》

    2.使用int存储金额的分值,显示的时候在转化为元

    使用decimal存储类型的缺点

    • 占用存储空间。浮点类型在存储同样范围的值时,通常比decimal使用更少的空间
    • 使用decimal计算效率不高

    因为使用decimal时间和空间开销较大,选用int作为数据库存储格式比较合适,可以同时避免浮点存储计算的不精确和decimal的缺点。对于存储数值较大或者保留小数较多的数字,数据库存储结构可以选择bigint,可以同时避免浮点存储计算不精准和DECIMAL精度计算代价高的问题

  • 相关阅读:
    session在.ashx文件操作问题
    最全的CSS浏览器兼容问题
    详解div+css相对定位和绝对定位用法
    CSS前5课总结
    CSS元素定位6-10课
    宽度百分比单位的转换公式
    input点击链接另一个页面,各种操作
    Excel 导入 Sql Server出错——“文本被截断,或者一个或多个字符在目标代码页中没有匹配项”错误的解决
    jQuery:cookie插件的使用
    Jquery.Form和jquery.validate 的使用
  • 原文地址:https://www.cnblogs.com/weihuang6620/p/13274931.html
Copyright © 2020-2023  润新知