python - float 随机(？!)精度怪癖

Question

<分区>

Answer 1

整数和 float 被赋予一定的位数。对于整数，每一位对应于二的幂。第一个数字是 2⁰，然后是 2¹、2²，依此类推。所以要存储整数 5我们有 2⁰ + 2² = 1 + 4。

对于 float ，我们将它们分为两部分进行存储。指数和小数。如果我们的小数是 .75，指数是 2，我们会得到 .75 * 10² = 7.5。小数存储为 2 的负幂。所以我们有 2^-1, 2^-2。 2^-3。等。这些等于.5 , .25 , .125等

有些数字无法存储，因为它们确实需要无限位来表示，例如 0.1，而其他数字(例如 3.1415)需要的位数比 CPU 为 float 提供的位数多(24 位是 32 位 float 的标准，但算法各不相同) .

比较 float 的正确方法是定义一个方差，并按照这些思路使用一些东西。

variance = .0001
floatsEqual = lambda f1, f2: f1 - variance <= f2 and f1 + variance >= f2

if (floatsEqual(3.1415, 3.1415 + 1 - 1)):
    pass

在 Python 中，decimal 库也很有用。