1. 首页
  2. 课程学习
  3. 数据库
  4. 误差和matlab的计算精度

误差和matlab的计算精度

上传者: 2019-05-15 08:40:05上传 PPT文件 36.5KB 热度 35次
Matlab中的三种运算精度数值算法:每个数值都取16位有效数字,按浮点数进行运算;运算速度快;符号算法:按有理数计算方法运算,可得出有理表达式运算慢;可控精度算法:用digits(n)指定运算的有效数字;还有计算中的几个原则
用户评论