我试图获取一个 long int 的 sqrt 值
from math import sqrt
print sqrt(410241186411534352)
<< 640500731.0
它返回了 640500731.0,精确度确实是 640500730.999999993...。如何解决?
根据@DSM和@Rob的回复解决了,非常感谢。
from math import sqrt
from decimal import Decimal
print Decimal(410241186411534352).sqrt()
最佳答案
>>> import decimal
>>> decimal.getcontext().prec = 100
>>> a=decimal.Decimal(410241186411534352)**decimal.Decimal(.5)
>>> print a
640500730.9999999929742468943411712910588335443486974564849183256021518032770726219326459594197730639
>>> print a*a
410241186411534352.0000000000000000000000000000000000000000000000000000000000000000000000000000000000
>>>
关于Python math.sqrt 损失精度,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/15696267/