• JS/PHP 浮点数精确运算


    php浮点数精确运算

    bc是Binary Calculator的缩写。bc*函数的参数都是操作数加上一个可选的 [int scale],比如string bcadd(string $left_operand, string $right_operand[, int $scale]),如果scale没有提供,就用bcscale的缺省值。这里大数直接用一个由0-9组成的string表示,计算结果返回的也是一个 string。

    bcadd — 将两个高精度数字相加
    bccomp — 比较两个高精度数字,返回-1, 0, 1
    bcdiv — 将两个高精度数字相除
    bcmod — 求高精度数字余数
    bcmul — 将两个高精度数字相乘
    bcpow — 求高精度数字乘方
    bcpowmod — 求高精度数字乘方求模,数论里非常常用
    bcscale — 配置默认小数点位数,相当于就是Linux bc中的”scale=”
    bcsqrt — 求高精度数字平方根
    bcsub — 将两个高精度数字相减

    首先看一段代码:

    <?php
    $a = 0.1;
    $b = 0.7;
    var_dump(($a + $b) == 0.8);

    打印出来的值居然为 boolean false

    这是为啥?PHP手册对于浮点数有以下警告信息:

    Warning
    浮点数精度
    显然简单的十进制分数如同 0.1 或 0.7 不能在不丢失一点点精度的情况下转换为内部二进制的格式。这就会造成混乱的结果:例如,floor((0.1+0.7)*10) 通常会返回 7 而不是预期中的 8,因为该结果内部的表示其实是类似 7.9999999999…。
    这和一个事实有关,那就是不可能精确的用有限位数表达某些十进制分数。例如,十进制的 1/3 变成了 0.3333333. . .。
    所以永远不要相信浮点数结果精确到了最后一位,也永远不要比较两个浮点数是否相等。如果确实需要更高的精度,应该使用任意精度数学函数或者 gmp 函数

    那么上面的算式我们应该改写为

    <?php
    $a = 0.1;
    $b = 0.7;
    var_dump(bcadd($a,$b,2) == 0.8);

    这样就能解决浮点数的计算问题了

    js浮点数精确计算函数(加,减,乘,除)

     //浮点数加法运算
      function FloatAdd(arg1,arg2){
        var r1,r2,m;
        try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
        try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
        m=Math.pow(10,Math.max(r1,r2))
        return (arg1*m+arg2*m)/m
       }
     
      //浮点数减法运算
      function FloatSub(arg1,arg2){
         var r1,r2,m,n;
         try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
         try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
         m=Math.pow(10,Math.max(r1,r2));
         //动态控制精度长度
         n=(r1>=r2)?r1:r2;
         return ((arg1*m-arg2*m)/m).toFixed(n);
      }
     
      //浮点数乘法运算
      function FloatMul(arg1,arg2)
      {
       var m=0,s1=arg1.toString(),s2=arg2.toString();
       try{m+=s1.split(".")[1].length}catch(e){}
       try{m+=s2.split(".")[1].length}catch(e){}
       return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
       } 
     
     //浮点数除法运算
     function FloatDiv(arg1,arg2){
        var t1=0,t2=0,r1,r2;
        try{t1=arg1.toString().split(".")[1].length}catch(e){}
        try{t2=arg2.toString().split(".")[1].length}catch(e){}
        with(Math){
        r1=Number(arg1.toString().replace(".",""))
        r2=Number(arg2.toString().replace(".",""))
        return (r1/r2)*pow(10,t2-t1);
        }
     }
  • 相关阅读:
    超简单的网页选项卡---jQuery
    【java+selenium3】Actions模拟鼠标 (十一)
    【java+selenium3】JavaScript的调用执行 (十)
    【java+selenium3】时间控件 (九)
    【java+selenium3】select 下拉选 (八)
    【java+selenium3】隐式等待+显式等待 (七)
    【java+selenium3】线程休眠方法 (六)
    【java+selenium3】模态框处理(五)
    【java+selenium3】多窗口window切换及句柄handle获取(四)
    【java+selenium3】特殊元素iframe的定位及详解(三)
  • 原文地址:https://www.cnblogs.com/xiaoqian1993/p/4733104.html
Copyright © 2020-2023  润新知