google-sheets - Google 表格小于或等于 (<=) 提供错误结果

标签 google-sheets floating-point google-sheets-formula rounding precision

公式0<=(1.36*100/1.36)-100返回 FALSE,而期望为 TRUE。

但是

0<=(1.26*100/1.26)-100返回正确结果 TRUE。 为什么?

最佳答案

如果你运行:

=(1.36*100/1.36)-100

并扩展小数位,您将得到:

enter image description here

即使您不希望出现这种行为,这也完全没问题。这是由于谷歌表格存储数字的方式决定的,这种“废话”被称为“舍入错误”(但它不是错误)

参见:https://stackoverflow.com/a/72230592/5632629

根据您的情况尝试:

=0<=ROUND((1.36*100/1.36)-100)

enter image description here

关于google-sheets - Google 表格小于或等于 (<=) 提供错误结果,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/72873914/

相关文章:

floating-point - float CSS定位的有效性

arrays - 如何将 IMPORTRANGE() 数组转换为字符串,以便与 QUERY() 一起使用?

google-sheets - 使用查询函数时将空白值转换为零

function - 将谷歌表中的日期区域设置从公历转换为 Jalali 日历

arrays - Google Sheets Arrayformula 计算速度非常慢

python - numpy.allclose() 比较数组和 float

cocoa - 使用 NSNumberFormatter,如何使用 2 位小数,同时仍然保留用户是否只输入 1 位或 2 位小数?

google-sheets - Google 表格中一个月的最后一天和第一天

regex - 如何在谷歌表中与正则表达式匹配不区分大小写?

javascript - 如何让 Google 表格脚本在特定单元格的值发生变化时发送电子邮件?