• js对浮点数计算的bug


    在js中使用浮点数运算,有时候不能得到合适的结果。有时候会发现出现**0000005的样子。

    解决方案,重写js对浮点型的运算。代码来源于网络

    //浮点数加法运算
    function FloatAdd(arg1,arg2){
    	var r1, r2, m, c;
            try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
            try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
            c = Math.abs(r1 - r2);
            m = Math.pow(10, Math.max(r1, r2))
            if (c > 0) {
                var cm = Math.pow(10, c);
                if (r1 > r2) {
                    arg1 = Number(arg1.toString().replace(".", ""));
                    arg2 = Number(arg2.toString().replace(".", "")) * cm;
                }
                else {
                    arg1 = Number(arg1.toString().replace(".", "")) * cm;
                    arg2 = Number(arg2.toString().replace(".", ""));
                }
            }
            else {
                arg1 = Number(arg1.toString().replace(".", ""));
                arg2 = Number(arg2.toString().replace(".", ""));
            }
            return (arg1 + arg2) / m;
    }
     
    //浮点数减法运算
    function FloatSub(arg1,arg2){
    	var r1,r2,m,n;
    	try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
    	try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
    	m=Math.pow(10,Math.max(r1,r2));
    	//动态控制精度长度
    	n=(r1>=r2)?r1:r2;
    	return ((arg1*m-arg2*m)/m).toFixed(n);
    }
     
    //浮点数乘法运算
    function FloatMul(arg1,arg2)
    {
    	var m=0,s1=arg1.toString(),s2=arg2.toString();
    	try{m+=s1.split(".")[1].length}catch(e){}
    	try{m+=s2.split(".")[1].length}catch(e){}
    	return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);
    }
     
     
    //浮点数除法运算
    function FloatDiv(arg1,arg2){
    	var t1=0,t2=0,r1,r2;
    	try{t1=arg1.toString().split(".")[1].length}catch(e){}
    	try{t2=arg2.toString().split(".")[1].length}catch(e){}
    	with(Math){
    		r1=Number(arg1.toString().replace(".",""));
    		r2=Number(arg2.toString().replace(".",""));
    		return (r1/r2)*pow(10,t2-t1);
    	}
    }   
    人生苦短,我用python
  • 相关阅读:
    Oracle序列使用:建立、删除
    struts1.x入门
    SQL的四种连接-左外连接、右外连接、内连接、全连接
    eclipse更改文件编码方式
    使用links方式安装Eclipse插件
    JAVA:Eclipse代码自动提示
    MyEclipse注释配置
    全面理解SQL
    一秒去除Win7快捷方式箭头
    Eclipse快捷键大全(转载)
  • 原文地址:https://www.cnblogs.com/pigga/p/10098313.html
Copyright © 2020-2023  润新知