这可能是一个愚蠢的问题:在使用 float 时,会对小数位进行一些舍入,如何在 Java 或 C 中检查舍入错误?任何建议将不胜感激。
最佳答案
好吧,您可以在没有舍入的情况下进行操作,并比较结果。例如,在java中你可以使用Big Decimal在使用 float 执行操作后执行操作...并查看最终是否得到相同的数字。
一个更好的问题是,你为什么要这样做? Float 通常会进行奇怪的循环,您不想在任何需要精度的地方使用它(即银行交易)。在这种情况下,请使用大十进制。但如果您只想在屏幕上表示 3D 点,1.5 舍入到 1.499997 不会改变任何内容...
关于java - 如何检查舍入误差?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/3920119/