sql - SQL Server 2016 中与小数相乘会导致值不正确

Question

当我运行查询时:

(SELECT (CONVERT(DECIMAL, COUNT(SequenceId)) * 0.6)  FROM dbo.usvSequenceToSequence_WithSequenceId)

我得到的结果是:17550.0

但是，当我运行查询时:

DECLARE @percentageOfSliceAsDecimal DECIMAL
    SET @percentageOfSliceAsDecimal = 0.6
(SELECT (CONVERT(DECIMAL, COUNT(SequenceId)) * @percentageOfSliceAsDecimal)  FROM dbo.usvSequenceToSequence_WithSequenceId)

我得到的结果是:29250

为什么会发生这种情况？

Answer 1

您需要以适当的精度声明:

declare @d decimal(10,2) = 0.6
select(convert(decimal,1982)*@d)

返回 1189.20

如果我们只有小数

declare @d decimal = 0.6
select(convert(decimal,1982)*@d)

四舍五入为 1，返回 1982