algorithm - 定点 Cholesky 算法的优点

Question

我正在开发一些代码，可以从 HW 获取浮点或定点数据。目前我们将其作为 float 。

底层API都是定点的。所以我们必须将数据作为定点传回。我们使用的算法是 Cholesky。我想知道为什么我们必须为 Cholesky 使用 float ，而不仅仅是将数据作为定点数获取。这样做有什么好处吗？

我原以为使用 float 会导致更多的舍入误差。

Answer 1

定点相对于浮点的主要优点是

1. 在硬件上实现起来要简单得多，

2. 某些运算是精确的(即不会产生舍入错误):即假设结果不会溢出，即整数的加法、减法和乘法。

3. 如果您的所有数字都具有相同的大小，则无需存储指数，您就可以在相同的宽度上获得一些额外的精度:例如32 位与 24 位 binary32 single precision .

特别是，第 3 点不太可能适用于整个计算阶段的所有数字，尤其是对于 Cholesky 分解等线性代数运算。

另一方面， float 还有许多其他优点。

1. 您可以存储范围更广的范围更广的数字(例如，~10^-38 到 10⁺³⁸ 二进制 32)

2. 处理较小的数字时，您不会失去准确性:这对于 Cholesky 计算中使用的乘法/除法尤为重要。

3. 下溢和上溢问题不大:它们都不太可能发生(由于 1)，但在确实发生时也可以通过 Inf 和次正规处理得到更优雅的处理对比异常或错误结果。

4. 浮点格式包含稍小的定点格式:即 binary32 包含 24 位定点格式的所有数字，但具有上述所有优点。