MATLAB舍入误差和IEEE754标准深入分析
由MATLAB技术论坛原创,原帖参见http://www.matlabsky.com/viewthread.php?tid=3093该教程详细介绍了MATLAB的舍入误差原理和计算,并给出实例验证。由于涉及很多数学公式和图形,帖中不方便展示,下面给出了大概的内容提要,具体参见本帖pdf附件http://www.matlabsky.com/viewthread.php?tid=3093!舍入误差是计算机进行实数计算是所产生的。之所以产生舍入误差是因为机器中进行的算术运算所涉及的数是有限位的,从而导致计算只能用实际数值的近视表示式来完成。在典型的计算机中,仅实数系统的一个相对小的子集用来表示所有的实数。这个子集包含了正负有理数,且存储了小数和指
下载地址
用户评论