C语言中规定,在执行一个运算时,如果它的一个运算数是有符号的而另外一个是无符号的,那么C语言会隐式地将有符号参数强制类型转换为无符号数。
这可以说是一个“妇孺皆知”的规定,但往往由于对它的不重视,引起了一些难以发现的错误。
我们来看一个简单的函数,函数功能是实现数组元素的求和,数组长度由length给出。
float sum_element(float a[],unsigned length)
{
int i;
float result=0;
for(i=0;i<=length-1;i++)
result+=a[i];
return result;
}
当参数length为0时,函数似乎应该返回0.0。然而,运行时会遇到一个存储器错误。
因为参数length是无符号的,计算0-1将进行无符号运算,这等价于模数加法。结果等于UMax。所以这个比较总是真的,因此代码试图访问数组test的非法元素。
对于像<和>这样的运算符,引起的错误就更不直观了。
对于表达式-1>0U,返回的值应该是1.