c++ - HSV 转换中的浮点错误

Question

我有一个将 RGB 颜色空间中的 vector 转换为 HSV 的函数 - 该例程通过了所有测试并且在绝大多数时间都有效。然而，崩溃报告表明它偶尔会失败(0.0001% 的调用或更少)。但是，由于此函数被调用得太多，这占软件总崩溃的很大一部分。

相关部分代码如下:

glm::vec4 RGBtoHSV(glm::vec4 rgb)
{
    vec4 hsv = vec4(0,0,0,rgb.w);

    float r = rgb.x;
    float g = rgb.y;
    float b = rgb.z;
    float M = std::max(std::max(r,g),b);
    float m = std::min(std::min(r,g),b);
    float c = M - m;

    //calc hue
    float hp = 0;
    if (c == 0)
        hp = 0;
    else if (M == r)
        hp = glm::mod(((g-b)/c), 6.0f);
    else if (M == g)
        hp = ((b-r)/c) + 2;
    else if (M == b)
        hp = ((r-g)/c) + 4;
    else
        EXPECT(false);
    float h = hp * 60;

    ...

glm::vec4 是对 GLM 的引用库，但类型基本上就是这样:

struct vec4 {
    union {
        struct { float x, y, z, w; }
        struct { float r, g, b, a; }
    }
}

失败行是EXPECT(false)； -- 这只是断言我们总是达到大写之一，问题是控制如何到达那里？

Answer 1

假设这些是 IEEE-754 float ，那么与 NaN 相比，您可能会遇到问题.如果您使用不同的浮点表示法，那么我的其余答案可能不相关。

这听起来可能有点奇怪，但任何与NaN的比较返回假。所以即使你试图做 NaN == Nan你得到假。 MSDN link .

如果您测试 NaN在提出断言的代码部分，这可能是问题所在。您可以使用 isnan() 来执行此操作在 <cmath> 中找到见http://en.cppreference.com/w/cpp/numeric/math/isnan .

我很快整理了一些代码来演示，如果您的系统发生同样的情况请告诉我:

#include <iostream>
#include <cmath>
int main(){
    float r = 0.0/0;
    std::cout << "r = " << r <<  std::endl;
    float g = 7.0;
    float b = 0.0;
    float M = std::max(std::max(r,g),b);
    float m = std::min(std::min(r,g),b);
    float c = M - m;

    //calc hue
    float hp = 0;
    if (c == 0)
        std::cout << "c == 0" << std::endl;
    else if (M == r)
        std::cout << "M == r" << std::endl;
    else if (M == g)
        std::cout << "M == g" << std::endl;
    else if (M == b)
        std::cout << "M == b" << std::endl;
    else
        std::cout << "oops" << std::endl;
        if(std::isnan(M))
            std::cout << "NaN encountered" << std::endl;

}

在我的机器上用 gcc 编译这给出了以下输出:

r = -nan
oops
NaN encountered

所以看起来有点可能有一个 0.0/0在代码的其他地方进行。