• 浮点数比较问题(float x 与 '零值'比较)


      今天在牛客网上看到一道面试题,看完之后着实吃了一惊,自己平常都没有在意,看似简单的问题,实则考验了语言的基本功.

      据说这是腾讯的面试题:

      float x 与“零值”比较的if语句为?

    • if (x == 0)
    • if (x < 0.00001f)
    • if (fabs(x) < 0.00001f)
    • if (x > -0.00001f)

      答案为C,fabs为求浮点数绝对值的函数

    1 fabs(x) < 0.00001f
    2 //等价于(double)-0.00001f < (double)x && (double)x < (double)0.00001f

    float的精度就在7,8位左右,自然只能取0.00001了.

    假设浮点变量的名字为x,应当将 
      if (x == 0.0) // 隐含错误的比较
    转化为 
      if ((x>=-EPSINON) && (x<=EPSINON))
    其中EPSINON是允许的误差(即精度).在C中,ANSI C已经定义了这些常量:

      载入头文件#include就可以引用

      FLT_EPSILON
      DBL_EPSILON
      LDBL_EPSILON
      这几个常量了。

    • 结论:
    • 因为float(double)在计算机内不能精确表示,判断相等时不能采用等于符号,两数之差小于一定的精度(自设定)时就认为其相等,在比较两个浮点数的时候,尽量避免使用"==" 或者"!="来进行直接比较,而是将其转化成">="或者"<="来比较;
    • 许多论坛上经常有人问,为什么float或double型不能用来控制switch流程?答案也是因为这个,float无法作为常量值来进行比较.
  • 相关阅读:
    bootstrap的引用和注意事项
    css样式表的知识点总结
    数据去重宏脚本
    redis总结
    list对象中根据两个参数过滤数据
    dt常用类
    C#删除字符串最后一个字符的几种方法
    C#的split分割的举例
    数据库优化的几个注意点
    两种转换城市的方式
  • 原文地址:https://www.cnblogs.com/ErosLii/p/4437938.html
Copyright © 2020-2023  润新知