• int 越界处理


    在程序运行中,如果运算结果太大超出了所定义的类型,那么可能会影响整个程序的运行结果,甚至是程序出错。

    因此,在编写程序时,加入越界处理就显得一起重要了。

    用整型 int 来举个例子吧,int型占四个字节,也就是32位,其中第一位(最高位)为符号。

    #define INT_MAX ( (1 << 31) - 1)    //定义int最大值
    #define INT_MIN ( 1 << 31)            //定义int最小值
    
    或者
    int max = 0x7fffffff;
    int min = 0x80000000;
      十六进制 二进制位 10进制数字
        1 0x00000001 0000 0000 0000 0000 0000 0000 0000 0001  1
    (1<<31) 0x7fffffff 1000 0000 0000 0000 0000 0000 0000 0000 -2 147 483 648
    (1<<31)-1 0x800000000  0111  1111 1111  1111  1111  1111  1111 1111  2 147 483 647

    (1<<31)得到最高位为 1 其余为为 0 ,即 2的31次方。同时最高位符号位为1,表示负数。得到 int最小值 -2 147 483 648 

    (1<<31)-1  最高位 0 其余位为 1,即 2的31次方 -1  。得到 int最大值 2 147 483 647。

    同理,十六进制的 0x7fffffff 与 0x800000000 也可以表示 int型的取值范围。

     最后,通过在程序中判断是否越界即可。

     例:注意 result 的类型取值应大于int

            if (result > INT_MAX)
            }
                return INT_MAX;
            {
    
            else if (result < INT_MIN)
            {
                return INT_MIN;
            }
    			
            if (result > max)    return max;
    
            else if (result < min)    return min;
    	
  • 相关阅读:
    Javascript 进阶
    transform顺序浅谈
    js对象克隆
    js动画最佳实现——requestAnimationFrame
    svg标签
    typeof和instanceof
    js变量浅谈
    X-UA-compatible浅谈
    封装$
    面向对象
  • 原文地址:https://www.cnblogs.com/TaoR320/p/12680193.html
Copyright © 2020-2023  润新知