跟进 this question :
我想计算 1/1048576 并得到正确的结果,即 0.00000095367431640625。
使用 BigDecimal
的 /
截断结果:
require 'bigdecimal'
a = BigDecimal.new(1)
#=> #<BigDecimal:7fd8f18aaf80,'0.1E1',9(27)>
b = BigDecimal.new(2**20)
#=> #<BigDecimal:7fd8f189ed20,'0.1048576E7',9(27)>
n = a / b
#=> #<BigDecimal:7fd8f0898750,'0.9536743164 06E-6',18(36)>
n.to_s('F')
#=> "0.000000953674316406" <- should be ...625
这真的让我感到惊讶,因为我的印象是 BigDecimal
可以正常工作。
为了获得正确的结果,我必须以明确的精度使用 div
:
n = a.div(b, 100)
#=> #<BigDecimal:7fd8f29517a8,'0.9536743164 0625E-6',27(126)>
n.to_s('F')
#=> "0.00000095367431640625" <- correct
但我并不真正理解精度 论点。为什么我必须指定它以及我必须使用什么值才能获得未截断的结果?
这是否符合“任意精度浮点十进制算术”?
此外,如果我通过以下方式计算上述值:
a = BigDecimal.new(5**20)
#=> #<BigDecimal:7fd8f20ab7e8,'0.9536743164 0625E14',18(27)>
b = BigDecimal.new(10**20)
#=> #<BigDecimal:7fd8f2925ab8,'0.1E21',9(36)>
n = a / b
#=> #<BigDecimal:7fd8f4866148,'0.9536743164 0625E-6',27(54)>
n.to_s('F')
#=> "0.00000095367431640625"
我确实得到了正确的结果。为什么?
最佳答案
BigDecimal 可以执行任意精度的浮点小数运算,但它不能自动确定给定计算的“正确”精度。
例如,考虑
BigDecimal.new(1)/BigDecimal.new(3)
# <BigDecimal:1cfd748, '0.3333333333 33333333E0', 18(36)>
可以说,在这种情况下没有正确的精度;使用正确的值取决于您的计算所需的准确性。值得注意的是,在数学意义上†,几乎所有整数除法都会产生一个无限小数展开的数字,因此需要四舍五入。如果在将分数化为最低项后,分母的质因数只有 2 和 5,则该分数只有有限表示。
所以你必须指定精度。不幸的是,精度参数有点奇怪,因为它似乎既是有效位数,又是小数点后的位数。这是不同精度的 1/1048576
1 0.000001
2 0.00000095
3 0.000000953
9 0.000000953
10 0.0000009536743164
11 0.00000095367431641
12 0.000000953674316406
18 0.000000953674316406
19 0.00000095367431640625
对于任何小于 10 的值,BigDecimal 会将结果截断为 9 位数字,这就是为什么在精度为 10 时精度会突然飙升:此时切换为截断为 18 位数字(然后四舍五入为 10 位有效数字) .
† 取决于您比较可数无限集大小的舒适程度。
关于ruby - 如何防止 BigDecimal 截断结果?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/40820119/