c - 位掩码 + 类型转换未按预期返回

Question

我遇到位掩码和/或类型转换无法按预期工作的情况。我正在使用一个非常大的分布式系统，其中一些部分是用 C 编写的。

让我感到困惑的几行代码是:

uint16_t
mask(uint32_t nr)
{
  return (uint16_t)(nr & 0x1ff);
}

...

  int nr = 65536;
  int index;
  index = mask(nr);

...

在这种情况下，mask 的返回值是 65536 而不是预期的 0。这个例子中有一些不一致的类型转换，但我不明白结果怎么会是错误的。我们基本上屏蔽了 32 位整数的低 9 位并将结果转换为 16 位整数。我最好的猜测是有一些编译器优化改变了前 16 位，但对高 16 位没有任何影响，因为我们只想返回 16 位。由于本例中的“索引”是一个 32 位整数，这还包括“nr”的第 17 位，它在位掩码中未被修改，因此第 17 位仍设置为 1，并将 65536 分配给索引.

有没有人对这种行为有解释？

编辑: 我忘记了一些重要的参数。 掩码函数的原型(prototype)已正确包含。该系统是为带有 gcc 4.3.2 的 Linux x86 构建的。

编辑2: 汇编代码:

0805b640 <mask>:
 805b640:       55                      push   %ebp
 805b641:       89 e5                   mov    %esp,%ebp
 805b643:       83 ec 18                sub    $0x18,%esp
 805b646:       65 a1 14 00 00 00       mov    %gs:0x14,%eax
 805b64c:       89 45 fc                mov    %eax,0xfffffffc(%ebp)
 805b64f:       31 c0                   xor    %eax,%eax
 805b651:       8b 45 08                mov    0x8(%ebp),%eax
 805b654:       66 25 ff 01             and    $0x1ff,%ax
 805b658:       8b 55 fc                mov    0xfffffffc(%ebp),%edx
 805b65b:       65 33 15 14 00 00 00    xor    %gs:0x14,%edx
 805b662:       75 02                   jne    805b666 <maks+0x26>
 805b664:       c9                      leave  
 805b665:       c3                      ret    
 805b666:       e8 a5 ac 04 00          call   80a6310 <__stack_chk_fail_local>
 805b66b:       90                      nop    
 805b66c:       8d 74 26 00             lea    0x0(%esi),%esi

Answer 1

这是我的 gcc (4.6.2) 从 mask 生成的内容(有优化；没有，周围有一些绒毛):

.LFB0:
    .cfi_startproc
    movl    4(%esp), %eax
    andw    $511, %ax
    ret
    .cfi_endproc

所以它确实只修改了低 16 位，调用者有责任实际将高 16 位清零

movzwl  %ax, %eax

如果在调用站点知道正确的原型(prototype)，它就会这样做。我非常怀疑

The prototype of the mask function is properly included.

实际上不是真的，检查并重新检查。如果确实如此，则您发现了一个主要错误(如此重要以至于我们可能已经听说过)。

uint16_t and uint32_t are provided by including linux/types.h

嗯，这里没有。它们由 stdint.h 提供.你应该#include <stdint.h>无论如何都要得到它们，即使它们也由 linux/types.h 提供在您的系统上，因为这是可移植解决方案。