2005年03月03日写的东西,整理了以前的博客,转到这里来。
描述
1. 昨天在ChinaUnix上看见一个问题:
$ad=1.25 - 1.24; #$ad答案是0.01 #$ad答案应也是0.01,但出现的答案是0。009999999999999979... $ad = 2.25 - 2.24; 为什麽?怎样更正? 谢 |
2. 前段时间刚做完的一个TOYOTA的J2EE项目也遇到类似问题:
把12个字段的字符串转成float再相加,每个字段都是#.##的格式,结果应该等于12.00,可实际是11.9999....,插入到Text里时还出现了越界。
问题
1. 精度:浮点数不能准确的表示
2. 结果的用途:用于计算的数值出现误差时,可能导致计算结果出现很大偏差,即使不会有太大的影响最好也不要冒险;数值是用于显示时,并不一定要处理float使之符合要求,可以尝试处理字符串。本文针对后一种情况。
3. 四舍五入:我简单的翻了一下Perl的函数库,没找到round函数。
解决办法
因为结果是用来显示的,所以并不一定要使float完全符合#.##的形式,可以考虑处理字符串。
由于结果应该符合#.##的形式,也就是说就四舍五入到0.01,但round()[JAVA]和int()[Perl]只能处理整数,所以先将数值乘以100,然后转换为字符串。判断字符串长度,当长度大于1时,在length-2的位置插入“.”,否则从0位置插入“0.0”。
$a = 2.25 - 2.24; # $a = 0.00999999999999979
$a = $a * 100 + 0.5; # $a = 1.49999999999998 # prepare for round off $a = int( $a ); # $a = 1; # now, we got the int value 100 times more than the value wanted. $a = "0.0" . $a # $a = 0.01 # here is the value we wanted. But the value must less than 10. # If we want deal with the value more than 10, we must judging # length of the value and whether append it "0.0" in the front # or insert a "." into the string. print $a; |
输出:0.01
参考
1.MSDN对浮点数精度的描述
《为何浮点数可能丢失精度》
浮点十进制值通常没有完全相同的二进制表示形式。这是 CPU 所采用的浮点数据表示形式的副作用。为此,可能会经历一些精度丢失,并且一些浮点运算可能会产生意外的结果。
导致此行为的原因是下面之一:
十进制数的二进制表示形式可能不精确。
使用的数字之间类型不匹配(例如,混合使用浮点型和双精度型)。
为解决此行为,大多数程序员或是确保值比需要的大或者小,或是获取并使用可以维护精度的二进制编码的十进制 (BCD) 库。
浮点值的二进制表示形式影响浮点计算的精度和准确性。Microsoft Visual C++ 使用 IEEE 浮点格式。
2 四舍五入的算法
四舍五入的算法处理整数,先将数值加0.5,再取得整数部分。
Java中的Math类有round函数,可我在Perl中没找到(可能有)。我想Perl主要是针对字符串处理,也许没有这方面的函数。所幸在Perl中找到int($)函数来截断整数。
所以,在Perl中可以这样做:
$value = int( $old + 0.5 ); |
在Java中直接使用Math.round()。