1. 首页
  2. 数据库
  3. 其它
  4. Java 关于基本数据类型中浮点数计算产生的精度问题

Java 关于基本数据类型中浮点数计算产生的精度问题

上传者: 2020-12-31 18:12:55上传 PDF文件 63.33KB 热度 9次
简单关于BigDecimal类 在基本数据类型中,float和double都表示浮点型数据,而计算机计算采取的是对二进制的计算,所以会存在一定程度上的精度丢失问题。 BigDecimal类是一个大小数操作类,可以用来对超过16位有效位的数据进行精确的运算,在这里我们使用BigDecimal类来解决浮点数计算产生的精度丢失问题。 精度问题 在这里我们讨论一个问题:3 – 2.7 == 0.3 的值是什么? 首先对表达式进行分析,该表达式有两个运算符,分别为减运算符 -和关系运算符 = = ,由于减运算符 – 的优先级高于关系运算符,所以该表达式将输出一个布尔值,即输出一个true或者false,
用户评论