gpt4 book ai didi

c++ - 单精度不是 6 位数字保证吗?

转载 作者:塔克拉玛干 更新时间:2023-11-03 08:24:56 24 4
gpt4 key购买 nike

这是 code :

typedef std::numeric_limits<float> fl;

int main()
{
std::cout.precision(100);

float f1 = 9999978e3;
std::cout << f1 << " (9999978e3 decimal number stored as binary)" << std::endl;

float f2 = 9999979e3;
std::cout << f2 << " (9999979e3 decimal number stored as binary)" << std::endl;

float f3 = 9999990e3;
std::cout << f3 << " (9999990e3 decimal number stored as binary)" << std::endl;

std::cout << "-----^" << std::endl;
}

打印:

9999978496 (9999978e3 decimal number stored as binary)
9999978496 (9999979e3 decimal number stored as binary)
9999989760 (9999990e3 decimal number stored as binary)
-----^

存储为二进制的十进制数正确地保留了 9999978e39999979e3 的第 6 位(即 7),但第 6 位的9999990e38 而不是 9

浮点精度不应该总是保证前 6 位数字吗?

是的,如果我四舍五入 89,我会得到 9,但这不一样;这只会在“视觉上”起作用/有意义。

稍后(处理数字),当我对该值应用数学运算时,它将对 xxxxx8 数字 (9999989760) 起作用,而不是在 xxxxx9 上。 +1 在那个幅度。

最佳答案

不是以您认为保证的方式,不。

通过提供反例的方式,对于一个IEEE754单精度 float ,最接近的数

9999990000

9999989760

保证您的数字和 float 在四舍五入到六位有效数字时相同。这是您平台上 FLT_DIG 的值,假设它实现了 IEEE754。例如。最接近 9999979000float 数字是 9999978496

参见 http://www.exploringbinary.com/floating-point-converter/

关于c++ - 单精度不是 6 位数字保证吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/47138519/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com