gpt4 book ai didi

.net - 通过数据适配器将 0.001 写入 Postgres 9.x 会产生奇怪的 0.00 值

转载 作者:行者123 更新时间:2023-11-29 13:01:58 25 4
gpt4 key购买 nike

通过 .net 数据适配器将 0.001 写入 Postgres(9.1 到 9.3)会导致奇怪的 0.00 值(在 pgAdmin 中)显示为零但实际上不是。

事实上,像 SELECT 1/(SELECT "weird_field"...) FROM ... 这样的简单查询会正确地给出 1000

更复杂的查询(带除法)令人惊讶地导致被零除错误。

此外,Navicat 中的排序方式正确显示了 0.0011 和 0.0009 之间的值

enter image description here

我们使用 Devart 库连接到数据库,但罪魁祸首似乎是数据适配器(或者至少是这两者的组合)因为一个简单的直接查询,仍然通过 Devart 驱动程序,不会产生相同的结果。

知道发生了什么事吗?

--

编辑:

DB上的类型是numeric,在程序中表示为double decimal

pSQL 打印如下:

--
0.00
(1 行)

--

编辑 2:

log_statement = 'all' 给出了一个奇怪的结果:

UPDATE "TABLE" SET ... "WEIRD_FIELD"=$8 ... WHERE ...

DETAIL: parameters: $1 = '7', $2 = '7', $3 = '18', $4 = '18', $5 = 'V03', $6 = 'Hz',
$7 = 'Hz', $8 = '0.00', $9 = '0', $10 = '2', $11 = '0'

奇怪字段的参数打印为零 (0.00),但显然它不是...

请注意,由 DataAdapter 填充的 DataGridView 中的值显示正确 0.001

--

编辑 3(莫里斯):

Devart 适配器的问题似乎已解决。使用最新版本,我不再看到问题。我认为这与此特定修复有关:7.3.293 20-Nov-14:修复了通过协议(protocol) 3 使用 PgSqlType.Numeric 时精度丢失的错误我使用最新的 Devart 程序集升级了我的软件,现在一切正常。

最佳答案

我们发现问题在于 PgSql 表示 numeric(十进制)具有未指定的精度和小数位数

数据库中的值似乎是正确的 (0.001) 但在某些操作中它被截断了:

"weird_field" + 0.001
---------------------
0.002

但是

"weird_field" * 2
--------------------
0.00

"weird_field" * 5
--------------------
0.01

这也解释了为什么有些查询会出现被零除错误。

解决方案是指定精度和小数位数,例如我们选择了numeric(38,28)(我们在 Oracle 中也用于小数)并且一切正常.

--

查看 PgSql 文档,我们没有发现任何有关此行为的信息,因此我们认为这是一个错误:

Specifying:
NUMERIC
without any precision or scale creates a column in which numeric values of any precision and scale can be stored, up to the implementation limit on precision. A column of this kind will not coerce input values to any particular scale, whereas numeric columns with a declared scale will coerce input values to that scale.

奇怪的是 0.000001(类似的)没有被截断,而 0.001 会。

关于.net - 通过数据适配器将 0.001 写入 Postgres 9.x 会产生奇怪的 0.00 值,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/27109361/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com