• 浮点型数据运算精度bug


    /**
             * 校验是否为数字
             * @param arg
             * @return
             */
            function checkIsNumber(arg){
                if(arg != null && arg.toString() != ""){
                    var re = /^-?(0|[1-9]+\d*|[1-9]+\d*\.\d+|0\.\d+)$/;
                    if(re.test(arg.toString())){
                        return true;
                    }
                }
                return false;
            }
    
            /**
             * 加法函数,用来得到精确的加法结果
             * 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
             * 返回值注意:arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
             * @param arg1
             * @param arg2
             * @return
             */
            function accAdd(arg1,arg2){
                if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
                    return null;
                }
                var r1,r2,m;
                try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;} 
                try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;} 
                m=Math.pow(10,Math.max(r1,r2));
                return (arg1*m+arg2*m)/m;
            }
    
            // 给Number类型增加一个add方法,调用起来更加方便。
            Number.prototype.add = function (arg){
                return accAdd(this,arg);
            }
    
            /**
             * 减法函数,用来得到精确的减法结果
             * 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。
             * 返回值:arg1-arg2的值,arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
             * @param arg1
             * @param arg2
             * @return
             */
            function accSub(arg1,arg2){
                if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
                    return null;
                }
                var r1,r2,m,n;    
                try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}    
                try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}
                m=Math.pow(10,Math.max(r1,r2));
                // n=(r1>=r2)?r1:r2; // 控制精度
                // return ((arg1*m-arg2*m)/m).toFixed(n);
                return (arg1*m-arg2*m)/m;
            }
    
            // 给Number类型增加一个subduct方法,调用起来更加方便。
            Number.prototype.subduct = function (arg){
                return accSub(this,arg);
            }
    
            /**
             * 除法函数,用来得到精确的除法结果
             * 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
             * 返回值:arg1除以arg2的精确结果
             * @param arg1
             * @param arg2
             * @return
             */
            function accDiv(arg1,arg2){
                if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
                    return null;
                }
                var t1,t2,r1,r2;
                try{t1=arg1.toString().split(".")[1].length;}catch(e){t1=0;} 
                try{t2=arg2.toString().split(".")[1].length;}catch(e){t2=0;}
                with(Math){
                r1=Number(arg1.toString().replace(".",""));
                r2=Number(arg2.toString().replace(".","")); 
                return (r1/r2)*pow(10,t2-t1); 
                } 
            } 
    
            // 给Number类型增加一个div方法,调用起来更加方便。
            Number.prototype.div = function (arg){ 
                return accDiv(this,arg); 
            } 
    
            /**
             * 乘法函数,用来得到精确的乘法结果 
             * 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
             * 返回值:arg1乘以arg2的精确结果 
             * @param arg1
             * @param arg2
             * @return
             */
            function accMul(arg1,arg2) {
                if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
                    return null;
                }
                var m=0,s1=arg1.toString(),s2=arg2.toString(); 
                try{m+=s1.split(".")[1].length;}catch(e){}
                try{m+=s2.split(".")[1].length;}catch(e){} 
                return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m); 
            } 
    
            // 给Number类型增加一个mul方法,调用起来更加方便。
            Number.prototype.mul = function (arg){ 
                return accMul(this,arg); 
            } 
            
            console.log(accAdd(0.3,0.2)+" "+accSub(0.3,0.2))    
  • 相关阅读:
    高精度计算模板
    P1108 低价购买 [DP][统计方案]
    POJ3349 Snowflake Snow Snowflakes [哈希]
    P1312 Mayan游戏 [深搜][模拟]
    P1378 油滴扩展[深搜]
    P1514 引水入城[搜索,线段覆盖]
    TYVJ1391 走廊泼水节
    【BZOJ1196】公路修建问题
    【BZOJ3624】免费道路
    【BZOJ2429】聪明的猴子
  • 原文地址:https://www.cnblogs.com/hualuna87/p/5996328.html
Copyright © 2020-2023  润新知