- iOS/Objective-C 元类和类别
- objective-c - -1001 错误,当 NSURLSession 通过 httpproxy 和/etc/hosts
- java - 使用网络类获取 url 地址
- ios - 推送通知中不播放声音
这是 code :
typedef std::numeric_limits<float> fl;
int main()
{
std::cout.precision(100);
float f1 = 9999978e3;
std::cout << f1 << " (9999978e3 decimal number stored as binary)" << std::endl;
float f2 = 9999979e3;
std::cout << f2 << " (9999979e3 decimal number stored as binary)" << std::endl;
float f3 = 9999990e3;
std::cout << f3 << " (9999990e3 decimal number stored as binary)" << std::endl;
std::cout << "-----^" << std::endl;
}
打印:
9999978496 (9999978e3 decimal number stored as binary)
9999978496 (9999979e3 decimal number stored as binary)
9999989760 (9999990e3 decimal number stored as binary)
-----^
存储为二进制的十进制数正确地保留了 9999978e3
和 9999979e3
的第 6 位(即 7),但第 6 位的9999990e3
是 8 而不是 9。
浮点精度不应该总是保证前 6 位数字吗?
是的,如果我四舍五入 89,我会得到 9,但这不一样;这只会在“视觉上”起作用/有意义。
稍后(处理数字),当我对该值应用数学运算时,它将对 xxxxx8
数字 (9999989760) 起作用,而不是在 xxxxx9
上。 +1 在那个幅度。
最佳答案
不是以您认为保证的方式,不。
通过提供反例的方式,对于一个IEEE754单精度 float ,最接近的数
9999990000
是
9999989760
保证您的数字和 float
在四舍五入到六位有效数字时相同。这是您平台上 FLT_DIG
的值,假设它实现了 IEEE754。例如。最接近 9999979000
的 float
数字是 9999978496
。
关于c++ - 单精度不是 6 位数字保证吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/47138519/
我知道存储单个值(或 double 值)不可能非常精确。因此,例如存储 125.12 可能会得到 125.1200074788。现在在delphi中,它们是一些有用的函数,例如samevalue或co
假设 N 是根据 IEEE754 单精度标准表示的任意数字。我想在 IEEE754 中再次找到 N/2 的最精确可能表示。 我想找到一个通用算法(用文字描述,我只想考虑必要的步骤和情况)来获得表示。
我将许多经度和纬度存储为 doubles,我想知道我是否可以将它们存储为 floats。 要回答这个问题,我需要知道 single precision floating point number 的近
我需要以一种不会丢失任何信息的方式将单精度数字表示为文本(这样我就可以得到相同的数字,可能会忽略 NaN 等),但没有太多的伪数字 - 所以单精度 0.1 出来了“0.1”不是“0.100000001
这是一个家庭作业问题。我已经在网上找到了很多代码,包括StackOverflow中的一些代码。但我只想要概念而不是代码。我想自己实现。所以我要实现的功能是: float_twice - 返回浮点参数
我需要从二进制文件中读取值。数据格式为 IBM 单精度 float (4 字节十六进制指数数据)。我有 C++ 代码从文件中读取并取出每个字节并像这样存储它 unsigned char buf[BU
我需要从二进制文件中读取值。数据格式为 IBM 单精度 float (4 字节十六进制指数数据)。我有 C++ 代码从文件中读取并取出每个字节并像这样存储它 unsigned char buf[BU
假设低端微处理器没有浮点运算,我需要生成一个 IEE754 单精度浮点格式数字以推送到文件。 我需要编写一个函数,它接受三个整数(符号、整数和分数),并返回一个字节数组,其中 4 个字节是 IEEE
我有一个由 NumPy 创建的二进制矩阵。该矩阵有 5 行和 32 列。 array([[1, 1, ..., 1, 1], [0, 1, ..., 0, 1], [1, 1, ...,
我正在尝试通过选择分数 位来创建浮点 NaN。但似乎 python float 在解释 NaN 时总是设置第 23 个小数位(IEEE754 单)。 所以,我的问题是:是否可以在不设置第 23 位的情
有没有办法转换 IEEE 单精度(32 位)列表: String result = getdata(); String[] floats = result.split(","); List float
为什么单精度 float 具有 7 位精度(或 double 15-16 位精度)? 谁能解释一下我们是如何根据分配给 float(Sign(32) Exponent(30-23), Fraction
今天我发现自己在做一些位操作,我决定稍微刷新一下我的浮点知识! 在我看到这个之前,一切都很好: ... 23 fraction bits of the significand appear in th
我想在我的目标板上测试以下内容: 'float' 是使用 IEEE 754 单精度(32 位)浮点变量实现的吗? 'double' 是否使用 IEEE 754 double (64 位)浮点变量实现?
我知道我是否有这样的号码: 1 | 1001 0001 | 0011 0011 0000 0001 0101 000 1 sign bit | 8 bit biased exponent | 23
我确定我遗漏了一些东西。我使用这个代码: int bitsVal = Float.floatToIntBits(f); String bitsString = Integer.toString(bit
我花了几个小时将小数位数更改为 8,而不是使用 VBA Access 的 2。我找到了一些使用此标签来更改系统属性的解决方案: 公共(public)常量 LOCALE_ILZERO = &H12 但它
我是一名优秀的程序员,十分优秀!