设置大十进制数的特定精度
2022-08-31 17:08:01
我有一个XSD,要求我使用BigDecimal作为lat/lon。我目前将lat / lon作为双精度,并将它们转换为BigDecimal,但我只需要使用大约12个精度位。我无法弄清楚如何设置它。任何人都可以帮我吗?
我有一个XSD,要求我使用BigDecimal作为lat/lon。我目前将lat / lon作为双精度,并将它们转换为BigDecimal,但我只需要使用大约12个精度位。我无法弄清楚如何设置它。任何人都可以帮我吗?
您可以使用 setScale() 例如
double d = ...
BigDecimal db = new BigDecimal(d).setScale(12, BigDecimal.ROUND_HALF_UP);
问题的标题询问精度。BigDecimal 区分小数位数和精度。小数位数是小数位数。您可以将精度视为有效数字的数量,也称为有效数字。
Clojure中的一些例子。
(.scale 0.00123M) ; 5
(.precision 0.00123M) ; 3
(在Clojure中,The指定一个大十进制文字。如果你愿意,你可以将Clojure翻译成Java,但我发现它比Java更紧凑!M
您可以轻松增加规模:
(.setScale 0.00123M 7) ; 0.0012300M
但是你不能以完全相同的方式减少规模:
(.setScale 0.00123M 3) ; ArithmeticException Rounding necessary
您还需要通过舍入模式:
(.setScale 0.00123M 3 BigDecimal/ROUND_HALF_EVEN) ;
; Note: BigDecimal would prefer that you use the MathContext rounding
; constants, but I don't have them at my fingertips right now.
因此,更改比例很容易。但是精度呢?这并不像你希望的那么容易!
很容易降低精度:
(.round 3.14159M (java.math.MathContext. 3)) ; 3.14M
但如何提高精度并不明显:
(.round 3.14159M (java.math.MathContext. 7)) ; 3.14159M (unexpected)
对于持怀疑态度的人来说,这不仅仅是不显示尾随零的问题:
(.precision (.round 3.14159M (java.math.MathContext. 7))) ; 6
; (same as above, still unexpected)
FWIW,Clojure对尾随零很小心,并会向它们显示:
4.0000M ; 4.0000M
(.precision 4.0000M) ; 5
回到正轨...您可以尝试使用 BigDecimal 构造函数,但它不会将精度设置为高于您指定的位数:
(BigDecimal. "3" (java.math.MathContext. 5)) ; 3M
(BigDecimal. "3.1" (java.math.MathContext. 5)) ; 3.1M
因此,没有快速的方法来改变精度。在写这个问题和我正在做的一个项目时,我花了时间解决这个问题。我认为这充其量是一个疯狂的小镇API,最坏的情况是一个错误。人。认真地?
所以,我能说的最好的是,如果你想改变精度,你需要做以下步骤:
这些步骤,作为Clojure代码:
(def x 0.000691M) ; the input number
(def p' 1) ; desired precision
(def s' (+ (.scale x) p' (- (.precision x)))) ; desired new scale
(.setScale x s' BigDecimal/ROUND_HALF_EVEN)
; 0.0007M
我知道,这是很多步骤只是为了改变精度!
为什么 BigDecimal 没有提供这个?我忽略了什么吗?