SQL Server ROUND() 不适用于以 1 结尾的 FLOAT

Question

我改变了我的例子来使用 FLOAT ......太多人被整个 NVARCHAR 事情所困扰。我们没有将数字存储在数据库中作为 NVARCHAR。我只是以 NVARCHAR 为例。我用 FLOAT 得到了相同的结果。

对于某些 FLOAT，我们遇到了 SQL Server ROUND() 问题

声明@EXCHANGE_RATE FLOAT
设置@EXCHANGE_RATE = 1.327810000000000000000
选择回合(@EXCHANGE_RATE,6,1)
设置@EXCHANGE_RATE = 1.327820000000000000000
选择回合(@EXCHANGE_RATE,6,1)

第一个返回:1.327809
第二个返回:1.32782

您会认为第一个会返回 1.32781，而不是 1.327809。

这是 ROUND 中的功能还是错误？有什么简单的方法吗？

谢谢!

基于 Mat 将它们转换为 DECIMAL 的想法，这是有效的......它很难看，但有效。我使用 10 的原因是我查看了我们的数据库，这似乎是我们存储的最长的数字。另外我需要将它转换回 FLOAT 因为他们不想看到任何尾随的 0

声明@EXCHANGE_RATE FLOAT
设置@EXCHANGE_RATE = 1.327810000000000000000
SELECT CAST(ROUND(CAST(@EXCHANGE_RATE AS DECIMAL(28,10)),6,1) 作为 float )

Answer 1

试试这个查询。

SELECT
  ROUND('1.3278100',6,0)                     AS x0,
  ROUND('1.3278200',6,0)                     AS y0,
  ROUND('1.3278100',6,1)                     AS x1,
  ROUND('1.3278200',6,1)                     AS y1,

  ROUND(CAST( '1.3278100' AS FLOAT), 6, 0)   AS a0,
  ROUND(CAST( '1.3278200' AS FLOAT), 6, 0)   AS b0,
  ROUND(CAST( '1.3278100' AS FLOAT), 6, 1)   AS a1,
  ROUND(CAST( '1.3278200' AS FLOAT), 6, 1)   AS b1,

  ROUND(CAST( '1.3278100' AS DECIMAL(9,8)), 6, 0)   AS i0,
  ROUND(CAST( '1.3278200' AS DECIMAL(9,8)), 6, 0)   AS j0,
  ROUND(CAST( '1.3278100' AS DECIMAL(9,8)), 6, 1)   AS i1,
  ROUND(CAST( '1.3278200' AS DECIMAL(9,8)), 6, 1)   AS j1
;

http://sqlfiddle.com/#!6/d41d8/15607

这向我表明的是 ROUND()正在隐式转换您的 VARCHAR值为 FLOAT在截断它们之前。

由于 FLOAT 无法准确表示 1.327810，您实际上是在截断 1.3278099999999(或类似的值)。

因此，简而言之，在截断之前将它们显式转换为 DECIMAL。或者干脆不要将数字数据存储为字符串...