gpt4 book ai didi

一个函数解决SQLServer中bigint 转 int带符号时报错问题

转载 作者:qq735679552 更新时间:2022-09-29 22:32:09 28 4
gpt4 key购买 nike

CFSDN坚持开源创造价值,我们致力于搭建一个资源共享平台,让每一个IT人在这里找到属于你的精彩世界.

这篇CFSDN的博客文章一个函数解决SQLServer中bigint 转 int带符号时报错问题由作者收集整理,如果你对这篇文章有兴趣,记得点赞哟.

有一个需求是要在一个云监控的状态值中存储多个状态(包括可同时存在的各种异常、警告状态)使用了位运算机制在一个int型中存储.

现在监控日志数据量非常大(亿级别)需要对数据按每小时、每天进行聚合,供在线报表使用。 状态分了3个级别:正常(0)、警告(1)、异常(2),聚合时需要使用max选择最差的状态,就需要对状态值进行处理加上级别和状态位个数,就要借助bigint型来做运算了, 。

问题是再将bigint 转为 int时获取原始状态值时,SQLServer报错了:

消息 8115,级别 16,状态 2,第 1 行 将 expression 转换为数据类型 int 时出现算术溢出错误.

因为状态码中已经用到了 0x80000000, 出现了符号位的问题。 写了一个转换函数解决了.

?
1
2
3
4
5
6
7
8
9
10
11
12
CREATE FUNCTION [dbo].[BigintToInt]
(
    @Value bigint
)
RETURNS int
AS
BEGIN
    -- 是否有int符号位
    IF @Value & 0x80000000 <> 0 RETURN @Value & 0xFFFFFFFF | 0xFFFFFFFF00000000
    -- 无符号位
    RETURN @Value & 0xFFFFFFFF
END

  。

最后此篇关于一个函数解决SQLServer中bigint 转 int带符号时报错问题的文章就讲到这里了,如果你想了解更多关于一个函数解决SQLServer中bigint 转 int带符号时报错问题的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。

28 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com