c - 具有扩展范围的浮点类型

Question

我需要在 C 中表示非常小阶的 float (例如，0.6745 × 2^-3000)。这种支持必须与平台无关(适用于 CPU和 GPU-CUDA)。尾数的长度不需要太长。

我无法使用高精度库(GMP、MPFR 等)，因为它们无法在 GPU 上运行。另一方面，CUDA 不支持long double 类型。有什么解决办法吗？是否可以以某种方式实现自定义浮点类型？

Answer 1

您可以在对数空间中工作，即将每个数字表示为 e^x，其中 x 是您的标准浮点类型:

• 可以使用 log-sum-exp trick 执行加法/减法(以及更一般的求和) ，即

  • e^x+e^y = e^x (1+e^y-x) = e ^{x + log(1+exp(y-x))}

• 乘法/除法变成加法/减法

  • e^x × e^x = e^x+y

• 提升力量相当简单

  • (e^x)^(e^x) = e^{x exp(y)}