gpt4 book ai didi

MYSQL CONV 从十六进制到十进制的问题

转载 作者:行者123 更新时间:2023-11-30 21:30:53 45 4
gpt4 key购买 nike

我有一些代码可以将数字从十六进制转换为十进制,并检查是否大于或等于。今天,我发现这并不总是有效,我也不知道为什么。

我试过使用原始值,效果很好。比较工作之外的转换。

select case when 5 >= 40 then 'Fail' else 'Pass' end as 'Check';

select case WHEN CONV('0005',16,10) >= CONV('28',16,10) THEN 'Fail' else 'Pass' end as 'Check';

select CONV('0005',16,10) as '1', CONV('28',16,10) as '2';

第一个选择按预期工作(通过)。第二个选择没有。第三个选择仅显示转换工作正常(即 0005 HEX = 5 Decimal,以及 28 Hex = 40 Decimal)。

我错过了什么?

最佳答案

来自docs :

CONV(N,from_base,to_base)

... Returns a string representation of the number N ...

结果是字符串并按此进行比较。对于字符串 '5' > '40'。因此,您需要使用 CAST

显式转换结果
select case
WHEN CAST(CONV('0005',16,10) as SIGNED) >= CAST(CONV('28',16,10) as SIGNED )
THEN 'Fail'
else 'Pass' end
as 'Check';

或者隐式地使用像 +0

这样的数字操作
select case  WHEN CONV('0005',16,10)+0 >= CONV('28',16,10)+0 THEN 'Fail' else 'Pass' end as 'Check';

如果您知道 HEX 字符串的最大长度,您还可以使用 LPAD()

用零填充它们
select case
WHEN lpad('0005', 20, 0) >= lpad('28', 20, 0)
THEN 'Fail'
else 'Pass'
end as 'Check';

关于MYSQL CONV 从十六进制到十进制的问题,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56225514/

45 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com