• C++浮点数(float、double)类型数据比较、转换分析总结


    浮点数在内存中的存储机制和整型数不同,其有舍入误差,在计算机中用近似表示任意某个实数。具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于基数为10的科学记数法。
        所以浮点数在运算过程中通常伴随着因为无法精确表示而进行的近似或舍入。但是这种设计的好处是可以在固定的长度上存储更大范围的数。
    
    1、将字符串转换为float、double过程存在精度损失,只是float、double各自损失的精度不相同而已
        std::string str="8.2";
        float cc=atof(str.c_str());  //cc的值为8.1999998
    
        std::string str="8.2";
        double cc=atof(str.c_str());  //cc的值为8.1999999999999993
    
    2、将float、double转换为字符过程中可能存在精度损失,但是通过%.8lf可以规避
       (1)float小数点前后加起来有效数字只有6位。当给定的float有效数在6位以内转换为字符不会丢失精度,当有效位数大于6位就会存在精度丢失
    
        //精度没有丢失
        char buf[100]={''};
        float aa=8000.25;
        sprintf(buf,"%f",aa);   //8000.250000
    
        //精度没有丢失
        char buf[100]={''};
        float aa=8.00025;
        sprintf(buf,"%f",aa);   buf = 8.000250
    
        //精度丢失,存在误差
        char buf[100]={''};
        float aa=8000.251;
        sprintf(buf,"%f",aa);  //8000.250977
    
        //精度丢失,存在误差 此时使用.8lf也无效
        char buf[100]={''};
        float aa=8000.251;
        sprintf(buf,"%.8lf",aa); //8000.25097656
    
        (2)double小数前后加起来的有效数字只有16位,当给定的double有效数在16位以内转换为字符串不会丢失精度,当有效位数大于16位湖影公寓存在精度丢失
    
        存在误差
        char buf[100]={''};
        double aa=121.437565871234012;
        sprintf(buf,"%.20lf",aa); //121.43756587123401000000
    
        //没有误差
        char buf[100]={''};
        double aa=8000.256165;
        sprintf(buf,"%.8lf",aa);
        std::cout <<buf<<std::endl; //8000.25616500
    
    
    3、浮点数比较
        用"=="来比较两个double应该相等的类型,返回真值完全是不确定的。计算机对浮点数的进行计算的原理是只保证必要精度内正确即可。
    
        我们在判断浮点数相等时,推荐用范围来确定,若x在某一范围内,我们就认为相等,至于范围怎么定义,要看实际情况而已了,float,和double 各有不同
        所以const float EPSINON = 0.00001;
        if ((x >= - EPSINON) && (x <= EPSINON) 这样判断是可取的
        至于为什么取0.00001,可以自己按实际情况定义
    
       根据上面分析建议在系统开发过程中设计到字符转换建议采用double类型,精度设置为%.8lf即可,在比较浮点数十建议EPSINON = 0.00000001


  • 相关阅读:
    ApiController实现自定义身份认证
    类型参数的约束(C# 编程指南)
    C# 交集、并集、差集
    Winform多线程使用委托操作控件
    ShowWindowAsync系统方法cmdShow参数值含义
    xtraTabbedMdiManager控件切换时控件不更新的问题
    ApiController默认使用Json格式
    css单位介绍em ex ch rem vw vh vm cm mm in pt pc px
    JavaScript 函数大全
    css3动画整理
  • 原文地址:https://www.cnblogs.com/hzcya1995/p/13318254.html
Copyright © 2020-2023  润新知