c# - 模数给出错误的结果？

Question

谁能告诉我为什么这两个模数计算会产生两个不同的结果？我只需要责怪某人或某事，但我却找不到这个错误的所有那些时间。

public void test1()
{
    int stepAmount = 100;
    float t = 0.02f;
    float remainder = t % (1f / stepAmount);
    Debug.Log("Remainder: " + remainder);
    // Remainder: 0.01

    float fractions = 1f / stepAmount;
    remainder = t % fractions;
    Debug.Log("Remainder: " + remainder);
    // Remainder: 0
}

使用VS-2017 V15.3.5

Answer 1

我最好的选择是，这是由于运行时必须以比所涉及的类型更高的精度执行浮点运算的自由，然后在分配时将结果截断为类型的精度:

The CLI specification in section 12.1.3 dictates an exact precision for floating point numbers, float and double, when used in storage locations. However it allows for the precision to be exceeded when floating point numbers are used in other locations like the execution stack, arguments return values, etc … What precision is used is left to the runtime and underlying hardware. This extra precision can lead to subtle differences in floating point evaluations between different machines or runtimes.

来源here .

在您的第一个示例中，t % (1f/stepAmount) 可以完全以比 float 更高的精度执行，然后在将结果分配给 时截断remainder，而在第二个示例中，1f/stepAmount 被截断并分配给 fractions，然后再进行模数运算。

至于为什么将stepamount设为const使得两个模运算一致，原因是1f/stepamount立即成为常量表达式在编译时计算并截断为浮点精度，这与编写 0.01f 没有什么不同，后者本质上使两个示例等效。