• js运算精度丢失问题


    0.0023 * 100 = 0.23,但js运算会出现下面这种精度丢失问题:

    直接参考别人写的方法:【中间处理了一些问题,最后有优化后的运算方法

    // 加
    function floatAdd(arg1, arg2) {
        var r1, r2, m;
        try {
            r1 = arg1.toString().split(".")[1].length;
        } catch (e) {
            r1 = 0;
        }
        try {
            r2 = arg2.toString().split(".")[1].length;
        } catch (e) {
            r2 = 0;
        }
        m = Math.pow(10, Math.max(r1, r2));
        return (floatMultiply(arg1 , m) + floatMultiply(arg2 , m)) / m;
    }
     
    // 减
    function floatSub(arg1, arg2) {
        var r1, r2, m, n;
        try {
            r1 = arg1.toString().split(".")[1].length;
        } catch (e) {
            r1 = 0;
        }
        try {
            r2 = arg2.toString().split(".")[1].length;
        } catch (e) {
            r2 = 0;
        }
        m = Math.pow(10, Math.max(r1, r2));
        // 动态控制精度长度
        n = (r1 >= r2) ? r1 : r2;
        return ((floatMultiply(arg1 , m) - floatMultiply(arg2 , m)) / m).toFixed(n);
    }
     
    // 乘
    function floatMultiply(arg1, arg2) {
        if(arg1 == null || arg2 == null){
            return null;
        }
        var n1,n2;
        var r1, r2; // 小数位数
        try {
            r1 = arg1.toString().split(".")[1].length;
        } catch (e) {
            r1 = 0;
        }
        try {
            r2 = arg2.toString().split(".")[1].length;
        } catch (e) {
            r2 = 0;
        }
        n1 = Number(arg1.toString().replace(".", ""));
        n2 = Number(arg2.toString().replace(".", ""));
        return n1 * n2 / Math.pow(10, r1+r2);
    }
     
    // 除
    function floatDivide(arg1, arg2) {
        if(arg1 == null){
            return null;
        }
        if(arg2 == null || arg2 == 0){
            return null;
        }
        var n1,n2;
        var r1, r2; // 小数位数
        try {
            r1 = arg1.toString().split(".")[1].length;
        } catch (e) {
            r1 = 0;
        }
        try {
            r2 = arg2.toString().split(".")[1].length;
        } catch (e) {
            r2 = 0;
        }
        n1 = Number(arg1.toString().replace(".", ""));
        n2 = Number(arg2.toString().replace(".", ""));
        return (n1 / n2) * Math.pow(10, r2 - r1);
    }

    上面运算方法存在的问题:

    1、floatDivide( 0.0033 , 100 ) = 0.000032999999999999996结果出现精度丢失问题:

      

     解决:除法运算的最后,需要使用乘法的方法,而不能直接相乘:

       

    2、floatDivide( 170890000 , 380026238.96999997 ) 得到的结果和实际数出入很大,如下图:

      

     测试:

      

      

           由上面两种情况猜测是乘法里面的科学计数法的问题:

       

     解决:添加将科学计数法转为字符串的方法,得到的结果就正常了,看下图:

       

        下面是测试的代码:

            var toNonExponential = (num)=> {
                    var m = num.toExponential().match(/d(?:.(d*))?e([+-]d+)/);
                    return num.toFixed(Math.max(0, (m[1] || '').length - m[2]));
                }
                /**
                 * 乘法 - js运算精度丢失问题
                 * @param arg1  数1
                 * @param arg2  数2
                 */
                var floatMultiply = (arg1, arg2) => {
                    if (arg1 == null || arg2 == null) {
                        return null;
                    }
                    arg1 = toNonExponential(arg1);
                    arg2 = toNonExponential(arg2);
                    var n1, n2;
                    var r1, r2; // 小数位数
                    try {
                        r1 = arg1.toString().split(".")[1].length;
                    } catch (e) {
                        r1 = 0;
                    }
                    try {
                        r2 = arg2.toString().split(".")[1].length;
                    } catch (e) {
                        r2 = 0;
                    }
                    n1 = Number(arg1.toString().replace(".", ""));
                    n2 = Number(arg2.toString().replace(".", ""));
                    return n1 * n2 / Math.pow(10, r1 + r2);
                }var floatDivide = (arg1, arg2) => {
                    if (arg1 == null) {
                        return null;
                    }
                    if (arg2 == null || arg2 == 0) {
                        return null;
                    }
                    var n1, n2;
                    var r1, r2; // 小数位数
                    try {
                        r1 = arg1.toString().split(".")[1].length;
                    } catch (e) {
                        r1 = 0;
                    }
                    try {
                        r2 = arg2.toString().split(".")[1].length;
                    } catch (e) {
                        r2 = 0;
                    }
                    n1 = Number(arg1.toString().replace(".", ""));
                    n2 = Number(arg2.toString().replace(".", ""));
                    return floatMultiply((n1 / n2), Math.pow(10, r2 - r1));
                    // return (n1 / n2) * Math.pow(10, r2 - r1);   // 直接乘法还是会出现精度问题
                }
                console.log(floatMultiply(4.496794759834739e-9,100000000));
                // console.log( floatDivide(170890000,380026238.9699997) );
                // console.log( floatDivide(170890000,380026238.969999) );
                // console.log( floatDivide(170890000,380026238.96999) );
    优化后的运算方法整合:
    /**
     * 将科学计数法的数字转为字符串  
     * 4.496794759834739e-9  ==> 0.000000004496794759834739
     * 4.496794759834739e+9  ==> 4496794759.834739
     * @param  num 
     */
    var toNonExponential = (num)=> {
        if(num == null) {
            return num;
        }
        if(typeof num == "number") {
            var m = num.toExponential().match(/d(?:.(d*))?e([+-]d+)/);
            return num.toFixed(Math.max(0, (m[1] || '').length - m[2]));
        }else {
            return num;
        }
    }
    
    /**
     * 乘法 - js运算精度丢失问题
     * @param arg1  数1
     * @param arg2  数2
     */
    var floatMultiply = (arg1, arg2) => {
        if (arg1 == null || arg2 == null) {
            return null;
        }
        arg1 = toNonExponential(arg1);
        arg2 = toNonExponential(arg2);
        var n1, n2;
        var r1, r2; // 小数位数
        try {
            r1 = arg1.toString().split(".")[1].length;
        } catch (e) {
            r1 = 0;
        }
        try {
            r2 = arg2.toString().split(".")[1].length;
        } catch (e) {
            r2 = 0;
        }
        n1 = Number(arg1.toString().replace(".", ""));
        n2 = Number(arg2.toString().replace(".", ""));
        return n1 * n2 / Math.pow(10, r1 + r2);
    }
    
    /**
     * 除法 - js运算精度丢失问题
     * @param arg1  数1
     * @param arg2  数2
     */
    var floatDivide = (arg1, arg2) => {
        if (arg1 == null) {
            return null;
        }
        if (arg2 == null || arg2 == 0) {
            return null;
        }
        arg1 = toNonExponential(arg1);
        arg2 = toNonExponential(arg2);
        var n1, n2;
        var r1, r2; // 小数位数
        try {
            r1 = arg1.toString().split(".")[1].length;
        } catch (e) {
            r1 = 0;
        }
        try {
            r2 = arg2.toString().split(".")[1].length;
        } catch (e) {
            r2 = 0;
        }
        n1 = Number(arg1.toString().replace(".", ""));
        n2 = Number(arg2.toString().replace(".", ""));
        return floatMultiply((n1 / n2), Math.pow(10, r2 - r1));
        // return (n1 / n2) * Math.pow(10, r2 - r1);   // 直接乘法还是会出现精度问题
    }
    
    /**
     * 加法 - js运算精度丢失问题
     * @param arg1  数1
     * @param arg2  数2
     */
    var floatAdd = (arg1, arg2) => {
        arg1 = toNonExponential(arg1);
        arg2 = toNonExponential(arg2);
        var r1, r2, m;
        try {
            r1 = arg1.toString().split(".")[1].length;
        } catch (e) {
            r1 = 0;
        }
        try {
            r2 = arg2.toString().split(".")[1].length;
        } catch (e) {
            r2 = 0;
        }
        m = Math.pow(10, Math.max(r1, r2));
        return (floatMultiply(arg1, m) + floatMultiply(arg2, m)) / m;
    }
    
    /**
     * 减法 - js运算精度丢失问题
     * @param arg1  数1
     * @param arg2  数2
     */
    var floatSub = (arg1, arg2) => {
        var r1, r2, m, n;
        try {
            r1 = arg1.toString().split(".")[1].length;
        } catch (e) {
            r1 = 0;
        }
        try {
            r2 = arg2.toString().split(".")[1].length;
        } catch (e) {
            r2 = 0;
        }
        m = Math.pow(10, Math.max(r1, r2));
        // 动态控制精度长度
        n = (r1 >= r2) ? r1 : r2;
        return ((floatMultiply(arg1, m) - floatMultiply(arg2, m)) / m).toFixed(n);
    }


  • 相关阅读:
    Oracle 11g+Windows10 x64安装、配置过程记录
    json工具类
    restTemplate工具类
    VirtualBox中安装CentOS 7后无法上网问题
    VirtualBox中安装CentOS 7
    idea安装完成后要做的几件事(设置字体、编码、行号)
    MiniUI学习笔记1-新手必读
    BUU-[GKCTF2020]WannaReverse
    BUU-Dragon Quest
    BUU-EzObfus-Chapter2
  • 原文地址:https://www.cnblogs.com/stella1024/p/11905773.html
Copyright © 2020-2023  润新知