Подтвердить что ты не робот

Установите определенную точность BigDecimal

У меня есть XSD, который требует от меня использовать BigDecimal для lat/lon. В настоящее время у меня есть lat/lon как двойники и конвертируйте их в BigDecimal, но мне нужно всего лишь использовать около 12 мест. Я не смог понять, как это установить. Может ли кто-нибудь помочь мне с этим?

4b9b3361

Ответ 1

Вы можете использовать setScale(), например.

double d = ...
BigDecimal db = new BigDecimal(d).setScale(12, BigDecimal.ROUND_HALF_UP);

Ответ 2

Название вопроса задает вопрос о точности. BigDecimal различает масштаб и точность. Масштаб - это число десятичных знаков. Вы можете представить себе точность, как число значимых цифр, также известное как значительные цифры.

Некоторые примеры из Clojure.

(.scale     0.00123M) ; 5
(.precision 0.00123M) ; 3

(В Clojure, M обозначает литерал BigDecimal. Вы можете перевести Clojure на Java, если хотите, но я считаю его более компактным, чем Java!)

Вы можете легко увеличить масштаб:

(.setScale 0.00123M 7) ; 0.0012300M

Но вы не можете уменьшить масштаб точно так же:

(.setScale 0.00123M 3) ; ArithmeticException Rounding necessary

Вам также нужно пройти режим округления:

(.setScale 0.00123M 3 BigDecimal/ROUND_HALF_EVEN) ;
; Note: BigDecimal would prefer that you use the MathContext rounding
; constants, but I don't have them at my fingertips right now.

Таким образом, легко изменить масштаб. Но как насчет точности? Это не так просто, как вы могли бы надеяться!

Легко уменьшить точность:

(.round 3.14159M (java.math.MathContext. 3)) ; 3.14M

Но не очевидно, как повысить точность:

(.round 3.14159M (java.math.MathContext. 7)) ; 3.14159M (unexpected)

Для скептически это не просто вопрос о том, что нулевые нули не отображаются:

(.precision (.round 3.14159M (java.math.MathContext. 7))) ; 6 
; (same as above, still unexpected)

FWIW, Clojure осторожно относится к завершающим нулям и покажет их:

4.0000M ; 4.0000M
(.precision 4.0000M) ; 5

Назад на дорожку... Вы можете попробовать использовать конструктор BigDecimal, но он не устанавливает точность выше числа цифр, которые вы указываете:

(BigDecimal. "3" (java.math.MathContext. 5)) ; 3M
(BigDecimal. "3.1" (java.math.MathContext. 5)) ; 3.1M

Таким образом, нет быстрого способа изменить точность. Я потратил время на борьбу с этим, написав этот вопрос и с проектом, над которым я работаю. Я считаю это, в лучшем случае, API CRAZYTOWN, а в худшем - ошибкой. Люди. Серьезно?

Итак, лучше всего могу сказать, что если вы хотите изменить точность, вам нужно сделать следующие шаги:

  • Поиск текущей точности.
  • Поиск текущего масштаба.
  • Рассчитать изменение шкалы.
  • Установите новый масштаб

Эти шаги, как Clojure code:

(def x 0.000691M) ; the input number
(def p' 1) ; desired precision
(def s' (+ (.scale x) p' (- (.precision x)))) ; desired new scale
(.setScale x s' BigDecimal/ROUND_HALF_EVEN)
; 0.0007M

Я знаю, это очень много шагов, чтобы изменить точность!

Почему BigDecimal не предоставляет это? Я что-то пропустил?

Ответ 3

 BigDecimal decPrec = (BigDecimal)yo.get("Avg");
 decPrec = decPrec.setScale(5, RoundingMode.CEILING);
    String value= String.valueOf(decPrec);

Таким образом вы можете установить определенную точность BigDecimal.

Здесь значение decPrec было равно 1,5726903423607562595809913132345426 который округляется до 1.57267

Ответ 4

Попробуйте этот код...

    Integer perc = 5;
    BigDecimal spread = BigDecimal.ZERO; 
    BigDecimal perc = spread.setScale(perc,BigDecimal.ROUND_HALF_UP);
    System.out.println(perc);

Результат: 0.00000