SQL Server 2005 : Round returns incorrect value if I use a float variable

Question

在 SQL Server 2005 中，当我尝试对存储在浮点变量中的值进行舍入时，得到的值不正确。在下面的示例中，我希望对 ROUND 函数的两次调用都应返回 5.6:

DECLARE @foo float;
DECLARE @bar float;
DECLARE @baz float;

SET @foo = 5.55;
SET @bar = ROUND(@foo, 1) --> 5.5
SET @baz = ROUND(5.55, 1) --> 5.6

我做错了什么？

Answer 1

我不建议使用float 数据类型来获取精确的decimal 值。

在这种特殊情况下，您可以将 @foo 变量转换为 十进制:

SET @bar = ROUND(CAST(@foo as DECIMAL(10,2)), 1) --> 5.6

What Every Computer Scientist Should Know About Floating-Point Arithmetic