当前分类：floating-point

floating-point - double-double 实现可适应 FPU 舍入模式

floating-point - 测试两个 float 是否为零，无需多次测试

javascript - 在 Javascript 中生成 LLVM 浮点十六进制文字

floating-point - 通过浮点计算将浮点转换为十进制

visual-c++ - 不同的值取决于浮点异常标志设置

python - python 中 int(x) 的奇怪行为

math - block 浮点运算与常规浮点运算

c++ - 当一个大数加一时，浮点运算如何工作？

floating-point - 用于数论应用的扩展精度浮点的快速计算

c++ - 与 fmod() 结果比较返回 false

.net - Double 和 Decimal 的精度(在 .NET 中)

math - OpenEdge abl truncate( log(4)/log(2) ) 应为 2 返回 1

assembly - 从 5 位浮点表示计算值

c++ - 移植比较 32 位 float 与 64 位 float 的代码，这个值代表什么？

c# - 增加 float 的第 n 位数字

c - Pelles C 和 GCC 在这个 C 素性测试中给出了不同的结果

mysql - 如何在mysql中插入 float 然后查询相等性

python - 从 float 中快速获取数字片段

c++ - 对 vector <vectors< double>> 进行排序并删除重复项

c++ - cmath 精度误差中的底函数

热门标签：

编程
数据结构与算法
其他

©2024 IT工具网  联系我们