-
问题背景
用matlab生成的以0.2为间隔的等差数列,居然会多0.000000000000001。导致在使用"=="或“>="含有等于的关系运算符时,结果一直存在问题。
-
数值计算中舍入误差
数值计算中的误差分为两种:截断误差与舍入误差。舍入误差是在于当计算机用二进制数表示十进制数时,而产生的误差。计算机用二进制表示的十进制数准确来讲是一个十进制区间(注意是左闭右开区间)
参考:
MATLAB舍入误差和IEEE754标准深入分析_MATLAB技术论坛_新浪博客: http://blog.sina.com.cn/s/blog_61c0518f0100f6h0.html