c# - 为什么除法结果会因施法类型而异？ (跟进)

Question

这是这个问题的后续:Why does a division result differ based on the cast type?

快速总结:

byte b1 = (byte)(64 / 0.8f); // b1 is 79
int b2 = (int)(64 / 0.8f); // b2 is 79
float fl = (64 / 0.8f); // fl is 80

问题是:为什么结果会因转换类型而异？在找出答案时，我遇到了一个我无法解释的问题。

var bytes = BitConverter.GetBytes(64 / 0.8f).Reverse(); // Reverse endianness
var bits = bytes.Select(b => Convert.ToString(b, 2).PadLeft(8, '0'));
Console.WriteLine(string.Join(" ", bits));

输出如下:

01000010 10100000 00000000 00000000

将其分解为 IEEE 754 格式:

0 10000101 01000000000000000000000

签名:

0 => Positive

指数:

10000101 => 133 in base 10

尾数:

01000000000000000000000 => 0*2^-1 + 1*2^-2 + 0*2^-3 ... = 1/4 = 0.25

十进制表示:

(1 + 0.25) * 2^(133 - 127) (Subtract single precision bias)

结果恰好是 80。那么为什么转换结果会有所不同呢？

Answer 1

我在另一个线程中的回答并不完全正确:实际上，在运行时计算时，(byte)(64 / 0.8f) 是 80。

转换 float 时包含 64 / 0.8f 的结果, 至 byte在运行时，结果实际上是 80。但是，当转换作为赋值的一部分完成时，情况并非如此:

float f1 = (64 / 0.8f);

byte b1 = (byte) f1;
byte b2 = (byte)(64 / 0.8f);

Console.WriteLine(b1); //80
Console.WriteLine(b2); //79

虽然 b1 包含预期结果，但 b2 已关闭。根据反汇编，b2赋值如下:

mov         dword ptr [ebp-48h],4Fh 

因此，编译器似乎计算出与运行时结果不同的结果。但是，我不知道这是否是预期的行为。

编辑:也许这是 Pascal Cuoq 描述的效果:在编译期间，C# 编译器使用 double来计算表达式。这导致 79,xxx 被截断为 79(因为 double 包含足够的精度以在此处引起问题)。
然而，使用 float，我们实际上并没有遇到问题，因为浮点“错误”不在 float 的范围内。

在运行时，这个也打印 79:

double d1 = (64 / 0.8f);
byte b3 = (byte) d1;
Console.WriteLine(b3); //79

EDIT2:应 Pascal Cuoq 的要求，我运行了以下代码:

int sixtyfour = Int32.Parse("64");
byte b4 = (byte)(sixtyfour / 0.8f);
Console.WriteLine(b4); //79

结果是79，所以上面说的编译器和运行时计算出不同的结果是不正确的。

EDIT3:将之​​前的代码更改为(再次归功于 Pascal Cuoq)时，结果为 80:

byte b5 = (byte)(float)(sixtyfour / 0.8f);
Console.WriteLine(b5); //80

但是注意，写的时候不是这样的(结果是79):

byte b6 = (byte)(float)(64 / 0.8f);
Console.WriteLine(b6); //79

所以这似乎是正在发生的事情:(byte)(64 / 0.8f)未评估为 float , 但评估为 double (在将其转换到 byte 之前)。这会导致舍入错误(使用 float 完成计算时不会发生这种情况)。在转换为 double 之前显式转换为 float(顺便说一句，ReSharper 将其标记为冗余)“解决”了这个问题。但是，当在编译期间完成计算时(仅使用常量时可能)，显式转换为 float似乎被忽略/优化掉了。

TLDR:浮点计算比最初看起来还要复杂。