gpt4 book ai didi

sql - sql中算术溢出错误转换浮点错误

转载 作者:行者123 更新时间:2023-12-02 10:00:06 25 4
gpt4 key购买 nike

我收到此错误

Arithmetic overflow error converting float to data type numeric

当我尝试运行我的 View 但不确定我的计算做错了什么时。我已经研究过,但到目前为止无法解决。

这是导致错误的代码行:

ISNULL(CAST(CAST(TOTAL_APPTS.APPT_CNT AS FLOAT) / TOTAL_RECS.PAT_CNT AS NUMERIC(3, 2)), 0) AS [CONVERSION RATE]

最佳答案

您对 NUMERIC 的精度和小数位数参数非常小。您尝试过增加这些吗?您的数值只能处理最大 9.99 的数字。

您应该仔细阅读此页面:

decimal and numeric (Transact-SQL)

这里解释的太多了,但基本上第一个参数(精度)是最大位数(在你的例子中是3),第二个参数(比例)是小数点右边的位数,这总是会减少小数点左边的位数。因此,在您的情况下,小数点左边允许有 3-2 = 1 位数字,这就是为什么您的最大值只能是 9.99。

关于sql - sql中算术溢出错误转换浮点错误,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/19326520/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com