我有一个将 RGB 颜色空间中的 vector 转换为 HSV 的函数 - 该例程通过了所有测试并且在绝大多数时间都有效。然而,崩溃报告表明它偶尔会失败(0.0001% 的调用或更少)。但是,由于此函数被调用得太多,这占软件总崩溃的很大一部分。
相关部分代码如下:
glm::vec4 RGBtoHSV(glm::vec4 rgb)
{
vec4 hsv = vec4(0,0,0,rgb.w);
float r = rgb.x;
float g = rgb.y;
float b = rgb.z;
float M = std::max(std::max(r,g),b);
float m = std::min(std::min(r,g),b);
float c = M - m;
//calc hue
float hp = 0;
if (c == 0)
hp = 0;
else if (M == r)
hp = glm::mod(((g-b)/c), 6.0f);
else if (M == g)
hp = ((b-r)/c) + 2;
else if (M == b)
hp = ((r-g)/c) + 4;
else
EXPECT(false);
float h = hp * 60;
...
glm::vec4 是对 GLM 的引用库,但类型基本上就是这样:
struct vec4 {
union {
struct { float x, y, z, w; }
struct { float r, g, b, a; }
}
}
失败行是EXPECT(false); -- 这只是断言我们总是达到大写之一,问题是控制如何到达那里?
最佳答案
假设这些是 IEEE-754 float ,那么与 NaN
相比,您可能会遇到问题.如果您使用不同的浮点表示法,那么我的其余答案可能不相关。
这听起来可能有点奇怪,但任何与NaN
的比较返回假。所以即使你试图做 NaN == Nan
你得到假。 MSDN link .
如果您测试 NaN
在提出断言的代码部分,这可能是问题所在。您可以使用 isnan()
来执行此操作在 <cmath>
中找到见http://en.cppreference.com/w/cpp/numeric/math/isnan .
我很快整理了一些代码来演示,如果您的系统发生同样的情况请告诉我:
#include <iostream>
#include <cmath>
int main(){
float r = 0.0/0;
std::cout << "r = " << r << std::endl;
float g = 7.0;
float b = 0.0;
float M = std::max(std::max(r,g),b);
float m = std::min(std::min(r,g),b);
float c = M - m;
//calc hue
float hp = 0;
if (c == 0)
std::cout << "c == 0" << std::endl;
else if (M == r)
std::cout << "M == r" << std::endl;
else if (M == g)
std::cout << "M == g" << std::endl;
else if (M == b)
std::cout << "M == b" << std::endl;
else
std::cout << "oops" << std::endl;
if(std::isnan(M))
std::cout << "NaN encountered" << std::endl;
}
在我的机器上用 gcc 编译这给出了以下输出:
r = -nan
oops
NaN encountered
所以看起来有点可能有一个 0.0/0
在代码的其他地方进行。
关于c++ - HSV 转换中的浮点错误,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/19845568/