python - Python 中舍入 float 的问题

标签 python numpy types floating-point rounding

我对 np.round、np.around 有问题,它没有正确舍入。我不能包含代码,因为当我手动设置值时(而不是使用我的数据),返回有效,但这里是输出:

In [177]: a
Out[177]: 0.0099999998

In [178]: np.round(a,2)
Out[178]: 0.0099999998


In [179]: np.round(a,1)
Out[179]: 0.0

我错过了什么? a的dtype是float32,需要改吗?

最佳答案

尝试创建 np.float32(0.01),您会看到答案。您已经获得了精确度。

>>> import numpy as np
>>> x = 0.01
>>> epsilon = 0.01 - np.float32(0.01)
>>> for n in np.arange(x - 10*epsilon, x + 10*epsilon, epsilon):
...     print(repr(np.float32(n)))
...     
0.0099999979
0.0099999979
0.0099999979
0.0099999988
0.0099999988
0.0099999988
0.0099999988
0.0099999998
0.0099999998
0.0099999998
0.0099999998
0.0099999998
0.010000001
0.010000001
0.010000001
0.010000001
0.010000002
0.010000002
0.010000002
0.010000002

关于python - Python 中舍入 float 的问题,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/7252581/

相关文章:

Python 进度条 tqdm

python - CommandError : Can't find xgettext. 与 django i18n

python - 如何在Python中将数组拆分为相等长度的容器?

python - 优化测试多个 NumPy 数组中的所有行组合

python - 向量化 numpy 运算

Haskell 的类型关联链令人费解

C#泛型方法和动态类型问题

Python 和 MySQL STR_TO_DATE

python - 正则表达式在 Python 和 Ruby 中的工作方式不同

haskell - 函数签名声明中集合可以是 "opened"吗?