c++ - 处理 float 的精度问题

Question

我想知道是否有一种方法可以克服精度问题，这个问题似乎是我的机器内部 float 表示的结果:

为了清楚起见，问题总结为:

// str is "4.600";   atof( str ) is 4.5999999999999996  
double mw = atof( str )  

// The variables used in the columns calculation below are:   
//  
//                    mw = 4.5999999999999996  
//                    p = 0.2  
//                    g = 0.2  
//                    h = 1 (integer)  

int columns = (int) ( ( mw - ( h * 11 * p ) ) / ( ( h * 11 * p ) + g ) ) + 1;

在转换为整数类型之前，列计算的结果是 1.9999999999999996；距离 2.0 的预期结果如此之近又如此之远。

欢迎提出任何建议。

Answer 1

当您使用浮点运算时，严格相等几乎毫无意义。您通常希望与一系列可接受的值进行比较。

请注意，某些值不能完全表示为浮点值。

参见 What Every Computer Scientist Should Know About Floating-Point Arithmetic和 Comparing floating point numbers .