• 1.Float精度在JS的解决方法


      最近做了一个有关折扣价的计算的功能,所有的运算都是在前台通过js来做,做完之后经过手工核算发现了一个问题,当时做的一个例子是10*0.94,按照我们正常的思维,这个结果应该是9.4,但是在js中的计算结果是9.39999999.....。其实按照二进制的算法来说js的这个结果是最精确的,但是按照我们正常人的思维来看结果只能是9.4,并且业务要求是不能四舍五入,要强制保留小数位数,所有这样一来就出问题了,后来在一个技术交流群了里有群友推荐了下面的解决方法,成功的解决了这个问题,请往下看:

      核心代码就只有这几行:

      //1.先将其他数据类型转换成String类型

      var m=0,s1=arg1.toString(),s2=arg2.toString();
      try{

        //2.对字符串分割后取出小数位的长度并得到总的小数位数

        m+=s1.split('.')[1].length;

        m+=s2.split('.')[1].length;

        //3.此处原理是将小数转换为整数相乘然后再除10的m次方即得到最终想要的结果
        return Number(s1.replace('.',''))*Number(s2.replace('.',''))/Math.pow(10,m);//9.4

      }catch(e){

        e.pringStack();

      }

      除法和上面的乘法大同小异,只需将两数相乘改为相除,乘法时的除以pow函数改为乘,同时pow函数中m的值取小数位数之差即可。

    http://www.cnblogs.com/haohaoge/
  • 相关阅读:
    keycloack docker 本地运行
    Windows10 Docker加速
    XenServer创建镜像Storage
    docker gitlab
    mongodb管理
    mongodb基础
    MS SQL Server迁移至Azure SQL(官方工具)
    Centos Nodejs
    ubuntu 16.04 LTS安装jenkins服务器
    Ubuntu Nginx
  • 原文地址:https://www.cnblogs.com/haohaoge/p/6626098.html
Copyright © 2020-2023  润新知