c++ - 在 C++ 中安全地重新缩放和向下转换 float

Question

我正在尝试对 float R 进行分类，我想以无符号 8 位整数格式获取其权重 wt:

float R;
float edgeVal = rintf(R); // round to the nearest edge
float dR = R - edgeVal + 0.5f; // distance to the edge with a half-pixel offset
unsigned char wt = static_cast<unsigned char>( dR*256.f )); // allowed range [0; 255]

在 dR == 0.f 区间的边缘，我们将得到 wt=0，但在另一个边缘 dR == 1.f，我们将得到 wt = 256，它会回绕到 0，而在这种情况下我们真的想得到 wt = 255。实现它的正确代码是什么？

这是变量范围的 2 位示例:

wt = |0|1|2|3|
     ^       ^
     |       |
dR = 0       1

Answer 1

如果只有 1.0f 的确切值是问题所在，您可能首先要避免为 dR 获取此值 .我建议对您的逻辑进行微小的更改，将 rintf 替换为 floor ，其行为在所有情况下都可以独立于任何外部因素轻松预测:

float Radj = R + 0.5f;
float edgeVal = floor(R); // now Radj - 1 < edgeVal <= Radj
float dR = Radj - edgeVal; // 0 <= dR < 1

现在是原来的

static_cast<unsigned char>( dR*256.f ));

永远不会溢出到 0。

对于几个测试值，原代码给出

R       edgeVal dR  wt
0       0       0.5     128
0.25    0       0.75    192
0.5     0       1       0
0.75    1       0.25    64
1       1       0.5     128
1.25    1       0.75    192
1.5     2       0       0
1.75    2       0.25    64
2       2       0.5     128

而对于 floor，edgeVal 和 wt 的值是一致的(以调整前者为代价):

R       edgeVal dR  wt
0       0       0.5     128
0.25    0       0.75    192
0.5     1       0       0       // note the change here
0.75    1       0.25    64
1       1       0.5     128
1.25    1       0.75    192
1.5     2       0       0
1.75    2       0.25    64
2       2       0.5     128