gpt4 book ai didi

c++ - 在 C++ 和 Oracle 数据库之间传递数据时的浮点精度问题

转载 作者:太空狗 更新时间:2023-10-29 23:06:00 24 4
gpt4 key购买 nike

我们有一个远程 C++ 客户端调用 Oracle 函数(使用 OCCI 库)传递一些数据的设置。然后,此 Oracle 函数将数据插入表中。传递给函数的数据之一是 AMOUNT,它是一个 float 。

在 C++ 客户端中,此 AMOUNT 变量被定义为“ double ”。 Oracle 函数和表都将此列的数据类型定义为“NUMBER”(没有明确定义任何精度或小数位数)。

我们发现客户端发送的内容与我们接收并存储在数据库中的内容之间存在很多不一致。例如,客户声称他们正在传递一个值“35.6”,但我们在表中看到的是“35.59999847”。

我们应该以最多 6 位小数的精度存储值。如果我将 AMOUNT 列的数据类型定义从 NUMBER 更改为 NUMBER(38,6),我将得到“35.599998”。如果我将它更改为 NUMBER (38,5),我最终会得到“35.6”。

有人可以建议这里可能发生什么吗?我知道将数量或价格值视为 float 是不可取的,应该使用整数来代替,但在这种情况下,我们无法控制 C++ 客户端。我们发现大量数据存在此问题(超过 50% 的数据存在此问题)。

此外,这个问题不仅限于 float 。即使是大整数,我们也可以看到不一致(例如,传递为 1000000000 的值存储为 1000000004)。

最佳答案

您可能无法控制客户端,但您可以更改界面吗?

将 float 传递给 Oracle 将不可避免地导致此问题,因为它们本质上是一种不精确的数据类型。但是,如果您可以修改接口(interface),则可以将两个整数传递给 Oracle:AMOUNT 的整数和 AMOUNT 的小数部分。然后 Oracle 可以将这两个整数组合成一个它可以愉快使用的 NUMBER 变量。


自从我写这篇文章后,你已经编辑了你的问题,正如 Oli 指出的那样,这个建议不再有效。

你可以做什么?

  1. 通过在 Oracle 层强制执行小数精度来伪造它。这可能会产生一些舍入误差,但比现在少得多。虽然它不会解决大整数的问题。
  2. 向 C++ 客户端的开发人员提出此错误。 (专业提示:提交错误报告时,尽量不要称他们为笨蛋)。
  3. 告诉您的用户他们只能忍受它。

至于为什么这是 Oracle 而不是您的其他系统的问题,MySQL 很好地支持 FLOAT 和 DOUBLE,而且其他系统可能也支持。 Oracle 一直对数据完整性非常严格, float 太松了。

关于c++ - 在 C++ 和 Oracle 数据库之间传递数据时的浮点精度问题,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/17107549/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com