我正在尝试研究一个用 Python 编写的 FIR 小例子。参见 https://scipy-cookbook.readthedocs.io/items/FIRFilter.html
我的目标是研究每个 float16
、float32
和 float64
(在 numpy 中可用)的输出精度如何变化。因此,对于第一种情况,我只需要在 float16
中完成所有计算。问题是我每次都应该转换数据以确保我使用的是正确的格式。是否有一种方法可以始终如一地为整个计算使用统一的上下文,即使用 float16
执行所有计算(加法、减法、cos、sin ...等),而无需使用强制转换重写代码?
最佳答案
来自numpy basics :
When operating with arrays of different types, the type of the resulting array corresponds to the more general or precise one (a behavior known as upcasting).
您可以在创建数组时定义数据类型。应用求和、乘法或减法,结果将向上转换为“更大”的类型,如果您对数组执行操作,它也会保留 dtype,例如:
x = np.ones(10, dtype=np.float16)
y = np.ones(10, dtype=np.float32)
print((x + y).dtype, (x - y).dtype, (x * y).dtype)
print(np.sin(x).dtype, np.sin(y).dtype)
>> float32 float32 float32
float16 float32
传递整数时是个异常(exception),在这种情况下,numpy 默认向上转换为 float64
print(np.sin(np.ones(10, dtype=int)).dtype)
>> float64
关于python - 如何强制 NumPy 始终使用精度(float32、float64 ...)?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/55025489/