这里所说的正弦是指 c stdlib sin()/fpu 汇编;y fsin。
我可以用大约 16 位小数来表示这个正弦论证 数字精度或更高,例如sin(1.1e-14); sin(1.2e-14) 然后得到结果,
正弦在如此小的三角洲上几乎是线性的,但尽管如此 也可以用同样的16位精度来计算, 它也是根据如此小的增量精确计算的吗?
(我问这个问题是因为有一段时间这对我来说似乎有些不寻常 在参数和尤其是输出中计算如此高的精度 值,所以我想知道是不是被砍掉了什么的)
最佳答案
IIRC,当正数大于 9e18 且小于 9e-18 时,它开始失败。这是CPU 的限制。
详情可阅读http://www.intel.com/design/processor/manuals/253665.pdf 8.1.3.2 条件代码标志指定 FSIN 和 friend 的限制。
关于assembly - 窦可扩展吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/13287639/