• 浮点类型丢失精度的问题


    想写下这个问题是因为前两天有一个需求,需要把设立数据库的某字段为double类型,并且该字段值会参与比较,我就想到把这个记下来,其实数据库中还是要尽量避免浮点类型的数据参与运算或比较的。

    首先我们要理解为什么浮点类型的数据会丢失精度,就要先理解为什么整型数据不会丢失精度。在计算机世界中,所有的数字在底层都会被转化成0和1组合的机器码。在大学里的第一件事就是学会怎样在十进制和二进制之间转换,比如十进制5转换成二进制的步骤如下:

    step1:5/2=2.....1

    step2:2/2=1.....0

    step3:1/2=0.....1

    从下至上的101便是5的二进制,这是整数,模2的余数只有0和1两种情况,也就是说任何一个整数,我们不断模2到最后的必定会得到1/2=0.....1的情况,只要是整数,就必定会这样。因此,十进制整数转为二进制是唯一的。

    那么十进制的小数是怎样转换成二进制的呢?十进制的小数转换为二进制,主要是小数部分乘以2,取整数部分依次从左往右放在小数点后,直至小数点后为0。那么我们考虑如下的情况,以0.1为例:

    step1:0.1*2=0.2  -----取0

    step2:0.2*2=0.4  -----取0

    step3:0.4*2=0.8  -----取0

    step4:0.8*2=1.6  -----取1

    step5:0.6*2=1.2  -----取1

    step6:0.2*2=0.4  -----取0     这时我们发现已经回到了step2,因此会一直循环下去,得到的0.1对应的二进制也是0.0 0011 0011 ......

    我们常说的浮点类型由两种:单精度和双精度,单精度,也就是 float ,在 32 位机器上用 4 个字节来存储的;而双精度double是用 8 个字节来存储的(从这儿也能发现double不仅表示范围更广,也更加精确)。当遇到这种无限循环的小数,位数已经超出了float或者double的最大比特数,那么只能截取,也正是因为如此,造成了精度的丢失。

    最后送大家一个tip(来自Alibaba Java开发手册):在要求绝对精确表示的业务场景下,比如金融行业的货币表示,推荐使用整型存储其最小的单位的值,展示时可以转换成该货币的常用单位,比如人民币使用分存储,美元使用美分存储。在要求精度表示小数点N位的业务场景下,比如圆周率要求存储小数点后1000位数字,是同单精度和双精度浮点数类型保存是难以做到的,这时推荐采用数组保存小数部分的数据。在比较浮点数时,由于存在误差,往往会出现意料之外的结果,所以禁止通过判断两个浮点数是否相等来控制某些业务流程。在数据库中保存小数时,推荐使用decimal类型,禁止使用float或者double。因为这两种类型在存储的时候存在精度丢失的问题。

  • 相关阅读:
    服务器时间不准导致 com.sun.facelets.impl.DefaultFacelet refresh
    推荐10款来自极客标签的超棒前端特效[第五期] java程序员
    IE10的市场占有率扩充了一倍 java程序员
    固定背景实现的背景滚动特效 java程序员
    支持触摸设备的响应式HTML5音频播放器 AudioPlayer.js java程序员
    WebRTC与Ace在线代码编辑器合作,实现实时协作编程 java程序员
    最流行的JavaScript库,jQuery不再支持IE旧版本 java程序员
    Jquery实现鼠标移上弹出提示框,移出消失 java程序员
    xxx.c: Error: C3065E: type of input file 'xxxx' unknown java程序员
    35+多用途WordPress主题 java程序员
  • 原文地址:https://www.cnblogs.com/Edwardz/p/11286314.html
Copyright © 2020-2023  润新知