示例代码:
double j = 0.65f;
int i = 100 * j;
结果i等于64,与我们通常预计的结果不一致;原因是0.65f后面的f符号表示了0.65是一个单精度浮点数。调试发现实际值等于0.6499999,乘以100后转整数变成64.
测试环境:vs2010
示例代码:
double j = 0.65f;
int i = 100 * j;
结果i等于64,与我们通常预计的结果不一致;原因是0.65f后面的f符号表示了0.65是一个单精度浮点数。调试发现实际值等于0.6499999,乘以100后转整数变成64.
测试环境:vs2010