浮点数在内存中的存储机制喝整形数据不同,有舍入误差,在计算机中用近似表示任意某个实数。具体来说,这个数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到。这种表示方法类似于基数为10的科学计数法。所以浮点数在运算过程中随着因为无法精确表示而进行的近似或舍入。但是这种设计的好处是可以在固定的长度上存储更大范围的数。
1、将字符串转化为float、double过程存在精度损失,只是float、double各自损失的精度不相同而已
std::string str="8.2"; float cc=atof(str.c_str()); //cc的值为8.1999998 std::string str="8.2"; double cc=atof(str.c_str()); //cc的值为8.1999999999999993
2、将float、double转换为字符串的过程中可能存在精度损失,但是通过%.8lf可以规避
2.1 float小数点前后加起来有效数字只有6位,当给定的float有效数在6位以内转换为字符串时不会丢失精度,当有效位数大于6位就会存在精度丢失。
//精度没有丢失 char buf[100]={' '}; float aa=8000.25; sprintf(buf,"%f",aa); //8000.250000 //精度没有丢失 char buf[100]={' '}; floataa=8.00025; sprintf(buf,"%f",aa); buf = 8.000250 //精度丢失,存在误差 charbuf[100]={' '}; float aa=8000.251; sprintf(buf,"%f",aa); //8000.250977 //精度丢失,存在误差此时使用.8lf也无效 char buf[100]={' '}; float aa=8000.251; sprintf(buf,"%.8lf",aa);//8000.25097656
2.2 double小数前后加起来的有效数字只有16位,当给定的double有效数在16位数以内转换为字符串时不会丢失精度,当有效位数大于16位就会出现精度丢失。出现误差。
char buf[100]={' '}; double aa=121.437565871234012; sprintf(buf,"%.20lf",aa);//121.43756587123401000000 //没有误差 char buf[100]={' '}; double aa=8000.256165; sprintf(buf,"%.8lf",aa); std::cout<<buf<<std::endl; //8000.25616500
3、浮点数的比较
使用==来比较两个double应该相等的类型,返回真值完全是不确定的。计算机对浮点数的进行计算原理是只保障必要精度内正确即可。
我们在判断两个浮点数是否相等时,推荐用范围来确定,若x在一定范围内,我们就认为相等,至于范围定义视情况而定,float喝double各有所不同。
所以:
const float EPSINON = 0.00001; if((x >= - EPSINON) && (x <= EPSINON) // 这样判断是可取的,至于为什么取0.00001可按实际情况定义 也可以 abs(x) <= EPSINON 比如要判断浮点数float A和B是否相等,我们先令: float x = A - B ; 并设 constfloat EPSINON = 0.00001; 则 if ((x >= - EPSINON)&& (x <= EPSINON);//或者if(abs(x) <= EPSINON) cout<<”A 与B相等<<endl; else cout<<”不相等”<<endl;
根据上面分析建议在系统开发过程中涉及到字符转换建议采用double类型,精度设置为%.8lf即可。在比较浮点数时建议EPSINON=0.00000001。