• 二进制系统不能精确表示 0.9


    我的主力博客:半亩方塘

    首先来看看以下的一个样例:

    public class Test
    {
        public static void main(String[] args)
        {
            System.out.println( 2.0-1.1 );
        }
    }

    将上述代码保存到名为 Test.java 的文件里,运行后得到的结果为 0.8999999999999999,而不是得到想象中的 0.9,这是为什么呢?

    这是由于,浮点数值在 Java 中是採用二进制系统表示的,二进制系统无法精确表示 0.9,我们知道,十进制小数向二进制小数转换的时候分别对 整数部分 和 小数部分 进行转换,第一步,将 整数部分除 2 取余 ,直到商为 0 为止,然后依次 将所得余数逆向排列 ,得到整数部分的二进制结果,第二步,将 小数部分乘 2 取整,直到小数部分为 0 为止,然后依次 将所得整数顺向排列 ,得到小数部分的二进制结果,比如我们要将 12.75 转换成二进制结果,过程例如以下:






    所以最后十进制的 12.75 转换成了二进制的 1100.11,我们来验算一下结果,将每一位数字乘以相应的位权得到:

    1 * 2^3 + 1 * 2^2 + 0 * 2^1 + 0 * 2^0 + 1 * 2^-1 + 1 * 2^-2 = 12.75

    由此可见全然正确,清楚了十进制小数到二进制小数的转换后,以下我们来谈谈为什么二进制不能精确表示 0.9,我们将 0.9 转换成相应的二进制数例如以下:



    由上图可知,绕回去了,照此进行下去的话会不断反复这样的绕回的过程,无休无止,因此,二进制系统不能精确地表示 0.9,同理,基于相同的理由,二进制系统也并不能精确地表示 0.1,这就像十进制系统不能精确地表示 1/3 (无限循环小数)一样。

    最后须要注意的一点是,在 Java 中是这种,可是在 C/C++ 中并非这样,C/C++ 中能精确表示 Java 中不能精确表示的浮点数。


  • 相关阅读:
    上传文件过大的问题FileUploadBase$SizeLimitExceededException
    Oracle分页2
    详解struts2中struts.properties
    Oracle 分页
    Xcode常见错误以及解决方案
    设置时间格式
    UIScrollView解决touchesBegan等方法不能触发的解方案
    ViewController 之间设置转场动画
    IQKeyboredManager使用
    SVN
  • 原文地址:https://www.cnblogs.com/gcczhongduan/p/4253644.html
Copyright © 2020-2023  润新知