• 浮点型数据运算精度bug


    /**
             * 校验是否为数字
             * @param arg
             * @return
             */
            function checkIsNumber(arg){
                if(arg != null && arg.toString() != ""){
                    var re = /^-?(0|[1-9]+\d*|[1-9]+\d*\.\d+|0\.\d+)$/;
                    if(re.test(arg.toString())){
                        return true;
                    }
                }
                return false;
            }
    
            /**
             * 加法函数,用来得到精确的加法结果
             * 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
             * 返回值注意:arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
             * @param arg1
             * @param arg2
             * @return
             */
            function accAdd(arg1,arg2){
                if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
                    return null;
                }
                var r1,r2,m;
                try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;} 
                try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;} 
                m=Math.pow(10,Math.max(r1,r2));
                return (arg1*m+arg2*m)/m;
            }
    
            // 给Number类型增加一个add方法,调用起来更加方便。
            Number.prototype.add = function (arg){
                return accAdd(this,arg);
            }
    
            /**
             * 减法函数,用来得到精确的减法结果
             * 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。
             * 返回值:arg1-arg2的值,arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
             * @param arg1
             * @param arg2
             * @return
             */
            function accSub(arg1,arg2){
                if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
                    return null;
                }
                var r1,r2,m,n;    
                try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}    
                try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}
                m=Math.pow(10,Math.max(r1,r2));
                // n=(r1>=r2)?r1:r2; // 控制精度
                // return ((arg1*m-arg2*m)/m).toFixed(n);
                return (arg1*m-arg2*m)/m;
            }
    
            // 给Number类型增加一个subduct方法,调用起来更加方便。
            Number.prototype.subduct = function (arg){
                return accSub(this,arg);
            }
    
            /**
             * 除法函数,用来得到精确的除法结果
             * 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
             * 返回值:arg1除以arg2的精确结果
             * @param arg1
             * @param arg2
             * @return
             */
            function accDiv(arg1,arg2){
                if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
                    return null;
                }
                var t1,t2,r1,r2;
                try{t1=arg1.toString().split(".")[1].length;}catch(e){t1=0;} 
                try{t2=arg2.toString().split(".")[1].length;}catch(e){t2=0;}
                with(Math){
                r1=Number(arg1.toString().replace(".",""));
                r2=Number(arg2.toString().replace(".","")); 
                return (r1/r2)*pow(10,t2-t1); 
                } 
            } 
    
            // 给Number类型增加一个div方法,调用起来更加方便。
            Number.prototype.div = function (arg){ 
                return accDiv(this,arg); 
            } 
    
            /**
             * 乘法函数,用来得到精确的乘法结果 
             * 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
             * 返回值:arg1乘以arg2的精确结果 
             * @param arg1
             * @param arg2
             * @return
             */
            function accMul(arg1,arg2) {
                if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
                    return null;
                }
                var m=0,s1=arg1.toString(),s2=arg2.toString(); 
                try{m+=s1.split(".")[1].length;}catch(e){}
                try{m+=s2.split(".")[1].length;}catch(e){} 
                return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m); 
            } 
    
            // 给Number类型增加一个mul方法,调用起来更加方便。
            Number.prototype.mul = function (arg){ 
                return accMul(this,arg); 
            } 
            
            console.log(accAdd(0.3,0.2)+" "+accSub(0.3,0.2))    
  • 相关阅读:
    解决QStandardPaths: XDG_RUNTIME_DIR not set, defaulting to '/tmp/runtime-root'问题
    error while loading shared libraries:libQt5SerialPort.so问题解决
    洛谷P4343 [SHOI2015]自动刷题机
    十一届山东省大学生程序设计竞赛 部分题解
    洛谷P4185 [USACO18JAN]MooTube G 题解
    洛谷P4588 [TJOI2018]数学计算
    洛谷P2085《最小函数值》
    多项式小记
    CF932F 【Escape Through Leaf】
    'ipconfig' 不是内部或外部命令,也不是可运行的程序 或批处理文件。持续思考ing
  • 原文地址:https://www.cnblogs.com/hualuna87/p/5996328.html
Copyright © 2020-2023  润新知