我编写了以下算法来将十进制值转换为二进制/十六进制等。
string toFormatFromDecimal(long long t, Format format) {
int digitCount = ceil(log(t) / log((int) format));
string hex = "";
for (int i = 0; i < digitCount; i++) {
long double cur = (long double)t / (long double)(format);
long long ganzzahl = (long long) cur;
long double kommazahl = cur - ganzzahl;
hex += digits[(long long) (kommazahl * format)];
t = ganzzahl;
}
return string(hex.rbegin(), hex.rend());
}
我在 linux 中使用 GCC,在 Windows 中使用 Visual Studio c++ 编译器 似乎我在这里的“整数”部门得到了不同的值:
long long ganzzahl = (long long) cur;
知道这是怎么发生的吗? Linux 和 Windows 上有不同的精度吗?
谢谢 弗洛里安
--解决方案--
string toFormatFromDecimal(long long t, Format format) {
int digitCount = ceil(log(t) / log((int) format));
string hex = "";
for (int i = 0; i < digitCount; i++) {
hex += digits[(int) (t%format)];
t = t/format;
}
return string(hex.rbegin(), hex.rend());
}
最佳答案
是的,GCC 和 Visual Studio C++ 有不同的 long double
类型。在为 x86 生成代码的 GCC 上,long double
是一种 80 位双倍扩展 IEEE 754 格式 (*),而 Visual Studio C++ 将 long double
视为 64 位格式 double IEEE 754 格式 (**)。
所以 (long double)t
在两个平台上不必是相同的数字,除法也不相同。尽管您将问题标记为“整数除法”,但它是不同浮点类型之间的浮点除法。
(*) 几乎:它的行为非常非常像 79 位 IEEE 754具有 15 个指数位和 63 个有效位的类型会,但它的指数范围稍宽,因为它使用显式位作为有效位中的前导 1。
(**) 几乎:因为编译器在为 53 位有效数字配置 x87 后生成使用历史 x87 指令的指令,非规范结果可能是双舍入的(reference)。
关于c++ - 在 Linux 和 Windows 上计算相同 --> 不同的结果,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/16744245/