• 浮点数的比较


    在大多数的语言中,不指定精度的浮点数不能直接比较,会出现很多意想不到的结果。

    例子:

    $price1 = 9.8*100;
    $price2 = floatval(980);
    var_dump($price1);
    var_dump($price2);
    var_dump($price1 == $price2);
    
    结果
    float(980) float(980) bool(false)

    上面两个变量看着是一样的,用var_dump打印出来都是浮点数980,比较两个数结果是false,是不是有点儿晕。

    我们格式化输出一下两个数

    printf("%.50f", $price1);
    echo("<br/>");
    printf("%.50f", $price1);
    
    980.00000000000011368683772161602973937988281250000000
    980.00000000000011368683772161602973937988281250000000

    打印了这么长还是一样,还是不能证明这两个数相等的,浮点数计算涉及精度,当浮点数转为二进制时有可能会造成精度丢失。

    上面的例子不太明显的能体现出来,我们换个

    printf("%.50f", 1-0.9);
    echo("<br/>");
    printf("%.50f", 0.1);
    
    0.09999999999999997779553950749686919152736663818359
    0.10000000000000000555111512312578270211815834045410

    这样就看出来了吧!

    不要盲目的比较两个浮点数的大小。

  • 相关阅读:
    react 踩坑第一天
    vue-cli+axios+跨域
    vuex 进阶 mapState mapGetter mapActions mapMutations
    vue Bus
    各种html布局
    echarts柱状图设置渐变色
    html设置一个当前时间
    css设置字体渐变色
    C++中指针与引用详解
    go-admin 开源后台管理系统
  • 原文地址:https://www.cnblogs.com/wyzs/p/5280533.html
Copyright © 2020-2023  润新知