我是计算机工程专业的学生,在 BYU-Idaho 辅导 C++ 入门类(class),一名学生成功地难倒了我。
如果为此编写代码:
#include <iostream>
using namespace std;
int main()
{
float y = .59;
int x = (int)(y * 100.0);
cout << x << endl;
return 0;
}
结果 = 58
#include <iostream>
using namespace std;
int main()
{
double y = .59;
int x = (int)(y * 100.0);
cout << x << endl;
return 0;
}
结果 = 59
我告诉他这是一个精度问题,因为 int 比 float 更精确,所以它会丢失信息。 double 比 float 更精确,所以它可以工作。
但是我不确定我说的是否正确。我认为这与用零填充的 int 有关,结果它在转换时被“截断”,但我不确定。
如果你们中有人想解释所有这一切“背后”发生的事情,我会觉得很有趣!
最佳答案
问题是 float
不够准确,无法保持 exact 值 0.59。如果您存储这样的值,它将以二进制表示形式(已经在编译时)四舍五入为不同的东西,在您的情况下,这是一个略小于 0.59 的值(它也可能略大于您想要的值).将其乘以 100 时,得到的值略小于 59。将这样的值转换为整数会将其四舍五入朝向 0,因此得到 58。
0.59 作为 float 将存储为(现在表示为人类可读的十进制数):
0.589999973773956298828125
现在是double
类型。虽然这种类型本质上有相同的问题,但您得到预期结果的原因可能有两个: double
中的任何一个都可以保存您想要的 exact 值(这不是0.59 的情况,但对于其他值可能是这种情况),或者编译器决定将其向上舍入。因此,将其与 100 相乘会得到一个不小于 59 的值,并将按预期四舍五入到 0 到 59。
现在请注意,作为 double
的 0.59 可能仍被编译器四舍五入。确实,我刚刚检查了一下,确实如此。 0.59 作为 double
将存储为:
0.58999999999999996891375531049561686813831329345703
但是,在将其转换为整数之前,您将该值乘以 100。现在有一个有趣的点:当乘以 100 时,编译器输入的 y
与 0.59 的差值被消除,因为 0.59 * 100 不能再次准确存储。事实上,处理器计算出 0.58999999999999996891375531049561686813831329345703 * 100.0
,它将向上舍入为 59,这个数字可以用double表示
!
有关详细信息,请参阅此代码:http://ideone.com/V0essb
现在您可能想知道为什么 float
不一样,它的行为应该完全相同,但精度不同。问题是 0.589999973773956298828125 * 100.0
不四舍五入到 59
(也可以用 float
表示).计算后的舍入行为并未真正定义。
事实上, float 的运算并没有明确规定,这意味着您可能会在不同的机器上遇到不同的结果。这使得实现性能调整成为可能,这会导致稍微不正确的结果,即使不涉及舍入!可能会出现这样的情况,在另一台机器上您最终得到了预期的结果,而在其他机器上却没有。
关于c++ - float 到整数的精度与 double 到整数的精度,意想不到的结果,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/14651948/