通过 .net 数据适配器将 0.001
写入 Postgres(9.1 到 9.3)会导致奇怪的 0.00
值(在 pgAdmin 中)显示为零但实际上不是。
事实上,像 SELECT 1/(SELECT "weird_field"...) FROM ...
这样的简单查询会正确地给出 1000
。
更复杂的查询(带除法)令人惊讶地导致被零除
错误。
此外,Navicat 中的排序方式正确显示了 0.0011 和 0.0009 之间的值
我们使用 Devart 库连接到数据库,但罪魁祸首似乎是数据适配器(或者至少是这两者的组合)因为一个简单的直接查询,仍然通过 Devart 驱动程序,不会产生相同的结果。
知道发生了什么事吗?
--
编辑:
DB上的类型是numeric
,在程序中表示为double
decimal
。
pSQL 打印如下:
--
0.00
(1 行)
--
编辑 2:
log_statement = 'all'
给出了一个奇怪的结果:
UPDATE "TABLE" SET ... "WEIRD_FIELD"=$8 ... WHERE ...
DETAIL: parameters: $1 = '7', $2 = '7', $3 = '18', $4 = '18', $5 = 'V03', $6 = 'Hz',
$7 = 'Hz', $8 = '0.00', $9 = '0', $10 = '2', $11 = '0'
奇怪字段的参数打印为零 (0.00),但显然它不是...
请注意,由 DataAdapter 填充的 DataGridView 中的值显示正确 0.001
。
--
编辑 3(莫里斯):
Devart 适配器的问题似乎已解决。使用最新版本,我不再看到问题。我认为这与此特定修复有关:7.3.293 20-Nov-14:修复了通过协议(protocol) 3 使用 PgSqlType.Numeric 时精度丢失的错误 我使用最新的 Devart 程序集升级了我的软件,现在一切正常。
最佳答案
我们发现问题在于 PgSql 表示 numeric
(十进制)具有未指定的精度和小数位数。
数据库中的值似乎是正确的 (0.001
) 但在某些操作中它被截断了:
"weird_field" + 0.001
---------------------
0.002
但是
"weird_field" * 2
--------------------
0.00
和
"weird_field" * 5
--------------------
0.01
这也解释了为什么有些查询会出现被零除
错误。
解决方案是指定精度和小数位数,例如我们选择了numeric(38,28)
(我们在 Oracle 中也用于小数)并且一切正常.
--
查看 PgSql 文档,我们没有发现任何有关此行为的信息,因此我们认为这是一个错误:
Specifying:
NUMERIC
without any precision or scale creates a column in which numeric values of any precision and scale can be stored, up to the implementation limit on precision. A column of this kind will not coerce input values to any particular scale, whereas numeric columns with a declared scale will coerce input values to that scale.
奇怪的是 0.000001
(类似的)没有被截断,而 0.001
会。
关于.net - 通过数据适配器将 0.001 写入 Postgres 9.x 会产生奇怪的 0.00 值,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/27109361/