这里考察的就是浮点数计算会出现精度缺失的问题
在浮点数计算里面,其实,3-2.6=0.399999999999999,
那这个时候应该怎么办呢?
我知道两个办法
1,使用java自带的BigDecimal,这个是不可变的,任意精度的整数,这个能够使结果精确
2,将浮点数乘以倍数之后变成整数计算,最后再除
这里考察的就是浮点数计算会出现精度缺失的问题
在浮点数计算里面,其实,3-2.6=0.399999999999999,
那这个时候应该怎么办呢?
我知道两个办法
1,使用java自带的BigDecimal,这个是不可变的,任意精度的整数,这个能够使结果精确
2,将浮点数乘以倍数之后变成整数计算,最后再除