• c语言之——整型的隐式转换与溢出检测


    溢出检测

    我们可以通过下面的方式来检测溢出:

    if(a > INT_MAX - b)
    {
        printf("overflow
    ");
    }
    

    我们利用整型的最大值减去其中一个数,然后与另一个数进行比较。其中INT_MAX定义在limit.h头文件中,它表示整数的最大值。
    当然,我们还可以通过下面的方式来检测:

    if((unsigned int)a + (unsigned int)b > INT_MAX)
    {
        printf("overflow
    ");
    }
    

    将两个数都先转换成无符号数进行计算,运算后的结果与INT_MAX进行比较。

    尽量避免

    虽然我们有方法来检测溢出,但是我们建议的是尽量去避免溢出的发生。可以通过下面的方式来避免:

    • 选择合适的数据类型,当数据较大可能会超出short int的范围时,就不该选择short int,而应该选择int等所表示范围更大的类型。

    • 在设计上尽量回避溢出。例如,要计算两个整数的平均值,我们想到的方法可能是(a+b)/2,但是这样却有溢出的风险,我们可以换一种方式:a-(a-b)/2,这种方式就回避了溢出的问题。

    当然对于不可避免的可能发生溢出的情况,我们需要进行检测并进行后处理,而非忽略。

    总结

    对于整型隐式转换和溢出相关内容,我们做一个总结:

    • 避免有符号数和无符号数直接进行算术运算。

    • 一个很小的负数被转换成有符号数时,将会变得很大。因此一个无符号数和一个有符号负数的比较结果几乎是显而易见的。

    • 溢出的结果是未定义的,不要期望对它做任何假设。

    • 尽量避免溢出问题。

    • java中没有无符号数。

  • 相关阅读:
    No result defined for action
    敏捷管理视频
    如何预测一个互联网产品的未来:一套关于产品的数学模型
    ZooKeeper 笔记(3) 实战应用之【统一配置管理】
    mybatis migrate常用指令
    dubbo远程调试运行
    解决 nginx https反向代理http协议 302重定向localtion到http问题
    nginx设置不使用缓存 add_header Cache-Control no-cache
    openssl数字证书私钥删除私钥密码
    读 Zepto 源码系列
  • 原文地址:https://www.cnblogs.com/CodeWorkerLiMing/p/12007351.html
Copyright © 2020-2023  润新知