c++ - 由于 float 和 double 的精度有限而导致的错误

Question

在C++中，由于float和double的精度有限，我使用下面的代码计算出误差的数量级:

 float n=1;
 float dec  = 1;

 while(n!=(n-dec)) {
    dec = dec/10;
 }
 cout << dec << endl;

(在 double 情况下，我所做的只是在第 1 行和第 2 行中将 float 与 double 交换)

现在，当我在 Unix 系统上使用 g++ 编译并运行它时，结果是

Float  10^-8
Double 10^-17

但是，当我在 Windows 7 上使用 MinGW 编译并运行它时，结果是

Float  10^-20
Double 10^-20

这是什么原因？

Answer 1

我想我会将我的评论作为答案并对其进行扩展。 这是我的假设，我可能是错的。

Windows 上的 MinGW 可能试图通过将表达式的中间值提升到 x86 的完整 80 位精度来保持精度。

因此，表达式 n != (n-dec) 的两边都计算为 64 位精度(80 位 FP 具有 64 位尾数)。

2^-64 ~ 10^-20

所以这些数字是有道理的。

Visual Studio 也(默认情况下)将提升中间体。但仅限于 double 。