gpt4 book ai didi

matlab - 将数值转换为字符向量时未获得预期结果

转载 作者:太空宇宙 更新时间:2023-11-03 20:27:20 25 4
gpt4 key购买 nike

我正在尝试使用 num2strsprintf 将数值转换为字符串或字符。我不明白为什么输出与我的输入不同?我希望输出与输入相同。

s=num2str(180814132242864695,'%18d')

s = 180814132242864704 % this is the output

s = sprintf('%18d',180814132242864695)
s = 180814132242864704

最佳答案

MATLAB 将所有数字文字解释为 double float 。问题不在于转换为字符串,而在于当转换到内存中时,值 180814132242864695 成为最接近的值,可以用 64 位浮点精度表示,因此 180814132242864704

一般来说,如果您使用需要超过 52 位精度来表示的数字(例如大于 2^53 - 1 = 9007199254740991 ~ 9e15 的整数),您将开始遇到精度问题。

示例:

>> 9007199254740992 == 9007199254740993
ans =
logical
1

Luis Mendo 链接的答案 Why is 24.0000 not equal to 24.0000 in MATLAB?给出了 MATLAB(和大多数语言)使用的浮点表示的更详细描述。

关于matlab - 将数值转换为字符向量时未获得预期结果,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/51850064/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com