• Javascript中 toFixed 规则介绍及其改进方法


    今天看了司徒大神的一篇博文,这篇文章专门介绍了toFixed的规则,搬来记录一下。文末有原文链接。

    javascript中toFixed使用的是银行家舍入规则。

    银行家舍入:所谓银行家舍入法,其实质是一种四舍六入五取偶(又称四舍六入五留双)法。

    简单来说就是:四舍六入五考虑,五后非零就进一,五后为零看奇偶,五前为偶应舍去,五前为奇要进一。但是不论引入toFixed解决浮点数计算精度缺失的问题也好,它有没有使用银行家舍入法也罢,都是为了解决精度的问题,但是又离不开二进制浮点数的环境,但至少他帮助我们找到了问题所在,从而让我们有解决方法。

    // http://www.chengfeilong.com/toFixed
      Number.prototype.toFixed = function(length)
            {
                var carry = 0; //存放进位标志
                var num,multiple; //num为原浮点数放大multiple倍后的数,multiple为10的length次方
                var str = this + ''; //将调用该方法的数字转为字符串
                var dot = str.indexOf("."); //找到小数点的位置
                if(str.substr(dot+length+1,1)>=5) carry=1; //找到要进行舍入的数的位置,手动判断是否大于等于5,满足条件进位标志置为1
                multiple = Math.pow(10,length); //设置浮点数要扩大的倍数
                num = Math.floor(this * multiple) + carry; //去掉舍入位后的所有数,然后加上我们的手动进位数
                var result = num/multiple + ''; //将进位后的整数再缩小为原浮点数
                /*
                * 处理进位后无小数
                */
                dot = result.indexOf(".");
                if(dot < 0){
                    result += '.';
                    dot = result.indexOf(".");
                }
                /*
                * 处理多次进位
                */
                var len = result.length - (dot+1);
                if(len < length){
                    for(var i = 0; i < length - len; i++){
                        result += 0;
                    }
                }
                return result;
            }
    

     该方法的大致思路是首先找到舍入位,判断该位置是否大于等于5,条件成立手动进一位,然后通过参数大小将原浮点数放大10的参数指数倍,然后再将包括舍入位后的位数利用floor全部去掉,根据我们之前的手动进位来确定是否进位。

    原文:http://www.cnblogs.com/rubylouvre/p/7405293.html

     

  • 相关阅读:
    day14_集合框架1(ArrayList,LinkedList,HashSet)
    day13_String、StringBuffer、StringBuilder
    初识Java_day01
    关于局部内部类访问带有final修饰符的局部变量
    day03,day04_数组,循环(上)
    day09(下)_异常(上)
    day08_多态
    day11_多线程(多线程安全问题)
    day16_集合框架3(HashMap,TreeMap)
    day09(上)_内部类
  • 原文地址:https://www.cnblogs.com/LiberBlog/p/9364223.html
Copyright © 2020-2023  润新知