python - 在python中将float转换为long

标签 python integer long-integer

我有一个返回 n! 的函数 fac(n),我正在将它与 gamma(n+1) 进行比较

>>> from math import gamma
>>> gamma(101)-fac(100)
0.0
>>> math.floor(gamma(101))-fac(100)
0.0
>>> long(gamma(101))-fac(100)
-1716052534060312817912314997891197522637580074354635372754659484313875350886868191008427848256820699487696649234627144617147818134104040275968L

Gamma (101) = 100!并且是一个整数。

为什么结果不同?

最佳答案

由于浮点类型的精度有限,以及减法运算符将其操作数强制为相同类型的方式,结果不同。 gamma 函数返回一个 float ,因此它无法为这么大的数字返回准确的答案。 This page很好地描述了问题。

gamma(101)-fac(100) 中,fac(100) 项在减法运算之前转换为 float 。

>>> gamma(101)
9.332621544394415e+157
>>> float(fac(100))
9.332621544394415e+157

适合 float 的 fac(100) 的(最重要的)部分与 gamma(101) 匹配,因此减法结果为 0.0

对于您的第二个测试,gamma(101) 没有小数部分,因此 math.floor 无效:

>>> math.floor(gamma(101)) == gamma(101)
True

当您将 gamma(101) 转换为 long 时,您可以清楚地看到它是不准确的:

>>> long(gamma(101))
933262154439441509656467047959538825784009703731840988
310128895405822272385704312950661130892883272778258496
64006524270554535976289719382852181865895959724032L
>>> fac(100)
933262154439441526816992388562667004907159682643816214
685929638952175999932299156089414639761565182862536979
20827223758251185210916864000000000000000000000000L

关于python - 在python中将float转换为long,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/7348212/

相关文章:

Java:将(长)对象转换为 double 的多种方法

c# - 我如何在 C# 中将数据从字符串转换为长

python - 重用通过枚举创建的Python对象

python - 提取 DataFrame 列中的最后一个单词

java - 如何区分同一个整数对象?

c++ - 为什么 long long 值打印不正确?

python - 在 python 中发送十六进制数据包

python - 使用 Python 的函数返回值为 shell 变量赋值

Bash 整数比较

java - 将 double 1.557760E12 转换为 int