下面这个代码:
return scale < 1 / 10000 ? 1 / 10000 : scale;
当scale=0.0000005时,居然返回的还是0.0000005,而不是0.0001 !
原来呀,1/10000=0
应该是
return scale < 1.0 / 10000 ? 1.0 / 10000 : scale;
才对。
又忽略了int和double的除法的区别!
下面这个代码:
return scale < 1 / 10000 ? 1 / 10000 : scale;
当scale=0.0000005时,居然返回的还是0.0000005,而不是0.0001 !
原来呀,1/10000=0
应该是
return scale < 1.0 / 10000 ? 1.0 / 10000 : scale;
才对。
又忽略了int和double的除法的区别!