我有一个XSD,需要我使用一个BigDecimal经纬度。我目前有双/经纬度,并将它们转换为BigDecimal,但我只需要使用大约12个位置的精度。我一直无法弄清楚如何设置。谁能帮我这个?设置BigDecimal的具体精度
回答
您可以使用setScale()
double d = ...
BigDecimal db = new BigDecimal(d).setScale(12, BigDecimal.ROUND_HALF_UP);
问题的标题询问精度。 BigDecimal区分尺度和精度。比例是小数位数。您可以将精度视为significant figures的数字,也称为有效数字。
Clojure中的一些示例。
(.scale 0.00123M) ; 5
(.precision 0.00123M) ; 3
(在Clojure中,该M
指定一个BigDecimal文字,你可以,如果你喜欢的Clojure转换为Java,但我觉得这是比Java更紧凑!)
您可以轻松地扩大规模:
(.setScale 0.00123M 7) ; 0.0M
但是你不能减少在完全相同的方式规模:
(.setScale 0.00123M 3) ; ArithmeticException Rounding necessary
你需要传递一个舍入模式太:
(.setScale 0.00123M 3 BigDecimal/ROUND_HALF_EVEN) ;
; Note: BigDecimal would prefer that you use the MathContext rounding
; constants, but I don't have them at my fingertips right now.
所以,很容易改变比例。但精度呢?这并不像您希望的那样容易!
这是很容易下降精度:
(.round 3.14159M (java.math.MathContext. 3)) ; 3.14M
但它并不明显如何增加精度:
(.round 3.14159M (java.math.MathContext. 7)) ; 3.14159M (unexpected)
对于持怀疑态度,这是不只是不显示尾随零的事:
(.precision (.round 3.14159M (java.math.MathContext. 7))) ; 6
; (same as above, still unexpected)
FWIW,Clojure是小心尾随零和将告诉他们:
4.0000M ; 4.0000M
(.precision 4.0000M) ; 5
重回正轨......你可以尝试使用BigDecimal构造,但它并没有设置任何精度高于您指定的位数:
(BigDecimal. "3" (java.math.MathContext. 5)) ; 3M
(BigDecimal. "3.1" (java.math.MathContext. 5)) ; 3.1M
因此,没有快速的方法来改变精度。在写这个问题和我正在开发的一个项目中,我花了很多时间来解决这个问题。我认为这最好是一个CRAZYTOWN API,最坏的情况是一个bug。人。真的吗?
所以,最好能告诉我,如果你想改变的精度,你需要做这些步骤:
- 查找当前精度。
- 查找当前比例。
- 计算比例变化。
- 设置新的规模
这些步骤,Clojure的代码:
(def x 0.000691M) ; the input number
(def p' 1) ; desired precision
(def s' (+ (.scale x) p' (- (.precision x)))) ; desired new scale
(.setScale x s' BigDecimal/ROUND_HALF_EVEN)
; 0.0007M
我知道,这是一个很大的步骤,只是改变精度!
为什么BigDecimal不提供这个功能?我忽略了什么?
'BigDecimal.round(new MathContext(precision,RoundingModel.ROUND_HALF_EVEN))'? – 2014-10-30 16:05:48
@PaŭloEbermann你在问或建议吗?你试过了吗?小心分享我在答案中遇到的例子的详细结果?如果是这样,我认为它需要一个单独的答案。 – 2014-10-31 14:53:45
对于任何像我一样并且不知道Clojure的人,我想这里显示的解决方案是'x.setScale(x.scale()+ p - x.precision(),RoundingMode.HALF_UP)',其中' x'是你想要的'BigDecimal','p'是你想要保留的有效数字的数量。它为我工作,但纠正我,如果我错了! – Nateowami 2015-03-24 13:44:01
BigDecimal decPrec = (BigDecimal)yo.get("Avg");
decPrec = decPrec.setScale(5, RoundingMode.CEILING);
String value= String.valueOf(decPrec);
这样你可以设置一个具体的精度BigDecimal
。
这里decPrec的价值为1.5726903423607562595809913132345426 这是四舍五入到1.57267
试试这个代码...
Integer perc = 5;
BigDecimal spread = BigDecimal.ZERO;
BigDecimal perc = spread.setScale(perc,BigDecimal.ROUND_HALF_UP);
System.out.println(perc);
结果:0.00000
- 1. 如何在Java中为BigDecimal设置特定的精度?
- 2. Java BigDecimal精度问题
- 3. 休眠 - BigDecimal测绘精度
- 4. 设置精度
- 5. BigDecimal与智能精度(尺度)
- 6. Groovy的BigDecimal的精度问题
- 7. 向BigDecimal号码加1的精度?
- 8. 从java BigDecimal转换为双精度丢失精度为
- 9. Python设置小数精度
- 10. 设置精度为双重
- 11. 设置色谱柱的精度。实体框架CF
- 12. 将内容高度设置为精确的字体大小
- 13. 从rgeos包的writeWKT中设置精度
- 14. 如何设置str(numpy.float64)的精度?
- 15. Clojure - 如何设置较低的精度
- 16. 如何获得的BigDecimal类型数据的精度在@Entity类
- 17. 如何将BigDecimal 0E-8转换为特定的双精度值
- 18. 在Scala中浮点,双精度和BigDecimal的抽象
- 19. 如何浮点精度设置工作
- 20. C++圆浮点数来设置精度
- 21. 设置精度当push_back在向量
- 22. 在SQL SUM语句中设置精度
- 23. 如何设置精度毫秒在C#
- 24. 如何设置浮点精度
- 25. 为计算设置Java精度
- 26. 设置并获取双精度数组
- 27. 获取并设置元素的具体高度
- 28. RRD具有高精度?
- 29. Ruby BigDecimal和MySQL小数精度不匹配
- 30. 设置十进制标识符的标度和精度
您是否尝试过给构造为MathContext? – bdares 2012-02-28 13:39:56
如果我看得很清楚,你说的是小数位,而不是浮点精度。至少接受的答案会导致12位小数,而不是12位精度。 – vbence 2013-03-05 17:40:09