ruby - ruby 中的算术

标签 ruby math floating-point ieee-754

为什么 ruby​​ 中的代码 7.30 - 7.20 返回 0.0999999999999996,而不是 0.10

但是如果我写 7.30 - 7.16,例如,一切正常,我会得到 0.14

问题是什么,我该如何解决?

最佳答案

关于ruby - ruby 中的算术,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/1451015/

相关文章:

jquery - Ruby 1.9.1、Rails 2.3.2 和 jrails 0.4 出现 "rescue in const_missing"错误

algorithm - 将排名排列索引到其他排名排列

math - 合并两条线的法线

Java:通过 Float.floatToIntBits 递增?

ruby - 将 Ruby 与 Rubymine 或其他调试器一起使用,是否可以在出现错误情况时进入 Debug模式?

ruby-on-rails - 如何生成一个包含类中方法名称的文件?

algorithm - 缩短 14 位以上的大数字

python - numpy 或 python 中的等效 matlab 函数 mod

c++ - 修改函数以使用 SSE 内在函数

Ruby Gem Twitter - 证书验证失败(Twitter::Error::ClientError)