java.math.RoundingMode是如何工作的？

rounding java

2022-09-04 00:58:56

我在舍入时遇到问题。具体来说，在阅读了所有javadoc之后，我期待以下代码：

int n = (integer between 0 and 9, included)
new BigDecimal(n + 0.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()

返回。相反，这些是 from 到的返回值：n + 0.56n04

 new BigDecimal(0.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
 0.56
 new BigDecimal(1.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
 1.55
 new BigDecimal(2.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
 2.56
 new BigDecimal(3.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
 3.56
 new BigDecimal(4.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
 4.55

我还尝试更改舍入模式：

int n = (integer between 0 and 9, included)
new BigDecimal(n + 0.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()

期望作为每个.相反，返回值与前面的示例完全相同：n + 0.55n

 new BigDecimal(0.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
 0.56
 new BigDecimal(1.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
 1.55
 new BigDecimal(2.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
 2.56
 new BigDecimal(3.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
 3.56
 new BigDecimal(4.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
 4.55

我错过了什么吗？

答案 1

你遇到的问题是，双精度不是一个精确的表示，你是基于这个不精确的数字而四舍五入的。

BigDecimal bd = new BigDecimal(1.555d);
System.out.println("bd=" + bd);
bd = bd.setScale(2, RoundingMode.HALF_UP);
System.out.println("after rounding bd=" + bd);
double d = bd.doubleValue();
System.out.println("after rounding d=" + d);

指纹

bd=1.5549999999999999378275106209912337362766265869140625
after rounding bd=1.55
after rounding d=1.55

然而

BigDecimal bd = BigDecimal.valueOf(1.555d);
System.out.println("bd=" + bd);
bd = bd.setScale(2, RoundingMode.HALF_UP);
System.out.println("after rounding bd=" + bd);
double d = bd.doubleValue();
System.out.println("after rounding d=" + d);

指纹

bd=1.555
after rounding bd=1.56
after rounding d=1.56

这之所以有效，是因为根据打印时双精度的显示方式进行一些额外的舍入。BigDecimal.valueOf

但是，我不会使用BigDecimal，除非性能/简单性不是问题。

double d = 1.555d;
System.out.println("d=" + d);
d = roundToTwoPlaces(d);
System.out.println("after rounding d=" + d);

public static double roundToTwoPlaces(double d) {
    return ((long) (d < 0 ? d * 100 - 0.5 : d * 100 + 0.5)) / 100.0;
}

指纹

d=1.555
after rounding d=1.56

有关更多详细信息，再次将资金翻倍比较不同四舍五入方式的表现。

答案 2

@Peter Lawrey，我看了你的例子，并写了一个快速程序，比较了你发布的简单方法以及RoundingMode的所有方法。代码在这里适合任何感兴趣的人，这将清楚地显示差异：

[舍入模式.java] https://gitlab.com/bobby.estey/java/-/blob/master/maven/jdk14/src/main/java/mathematics/RoundingModeExamples.java

Results:
lowDouble:                             1.55553
simple - lowDouble:                    1.5555
RoundingMode.UP - lowDouble:           1.5556
RoundingMode.DOWN - lowDouble:         1.5555
RoundingMode.CEILING - lowDouble:      1.5556
RoundingMode.FLOOR - lowDouble:        1.5555
RoundingMode.HALF_UP - lowDouble:      1.5555
RoundingMode.HALF_DOWN - lowDouble:    1.5555
RoundingMode.HALF_EVEN - lowDouble:    1.5555
highDouble:                            1.55555
simple - highDouble:                   1.5556
RoundingMode.UP - highDouble:          1.5556
RoundingMode.DOWN - highDouble:        1.5555
RoundingMode.CEILING - highDouble:     1.5556
RoundingMode.FLOOR - highDouble:       1.5555
RoundingMode.HALF_UP - highDouble:     1.5555
RoundingMode.HALF_DOWN - highDouble:   1.5555
RoundingMode.HALF_EVEN - highDouble:   1.5555