assembly - 窦可扩展吗?

标签 assembly numbers fpu x87

这里所说的正弦是指 c stdlib sin()/fpu 汇编;y fsin。

我可以用大约 16 位小数来表示这个正弦论证 数字精度或更高,例如sin(1.1e-14); sin(1.2e-14) 然后得到结果,

正弦在如此小的三角洲上几乎是线性的,但尽管如此 也可以用同样的16位精度来计算, 它也是根据如此小的增量精确计算的吗?

(我问这个问题是因为有一段时间这对我来说似乎有些不寻常 在参数和尤其是输出中计算如此高的精度 值,所以我想知道是不是被砍掉了什么的)

最佳答案

IIRC,当正数大于 9e18 且小于 9e-18 时,它开始失败。这是CPU 的限制。

详情可阅读http://www.intel.com/design/processor/manuals/253665.pdf 8.1.3.2 条件代码标志指定 FSIN 和 friend 的限制。

关于assembly - 窦可扩展吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/13287639/

相关文章:

c - 完全用汇编编写操作系统有什么好处?

assembly - resb 2 是否等同于 resw 1?

javascript - 如何检测给定的数字是否是整数?

c - 为什么在 MASM Assembly 中使用 FPU x87 指令集执行操作时会得到无意义的数字?

ios - 如何在 armv7 (Cortex A5) iOS 中使用 VFMA 指令?

assembly - 汇编器字符输出

linux - 使用断点和符号调试时的gdb问题

c# - 如何放置千位分隔符 "point"

javascript - 如何限制 html 数字输入(实时)中允许的数字数量?

c++ - gcc 4.2 编译器 (Mac OSX) : fpu_control. h: 没有那个文件或目录的新手问题