c# - 强制执行特定小数精度级别的单元测试函数

Question

我正在编写计算优惠多席位选举的软件。一个常见的要求是固定精度。这意味着所有数学运算都必须对具有固定指定精度的值进行，并且结果必须具有相同的精度。固定精度是指小数点后的一组数字。之后的任何数字都将被丢弃。

因此，如果我们假设精度为 5 位:

    42/139

变成:

    42.00000/139.00000 = 0.30215

我在为此编写单元测试时遇到问题。到目前为止，我已经为大数和小数编写了这两个测试。

    public void TestPrecisionBig()
    {
        PRECISION = 5;
        decimal d = Precision(1987.7845263487169386183643876m);
        Assert.That(d == 1987.78452m);
    }

    public void TestPrecisionSmall()
    {
        PRECISION = 5;
        decimal d = Precision(42);
        Assert.That(d == 42.00000m);
    }

但它的计算结果为 42 == 42.00000m不是我想要的。

我如何测试它？我想我可以做一个 d.ToString，但这是一个很好的“适当”测试吗？

编辑:我被要求展示我对 Precision 方法的实现。它不是很优雅，但很管用。

    public static decimal Precision(decimal d)
    {
        if (d == 0) return 0.00000m;
        decimal output = Math.Round(d, 6);
        string s = output.ToString(CurrentCulture);
        char c = char.Parse(CurrentCulture.NumberFormat.NumberDecimalSeparator);

        if (s.Contains(c))
        {
            output = decimal.Parse(s.Substring(0, s.Length - 1));
            return output;
        }

        s += c;
        for (int i = 0; i <= Constants.PRECISION; i++) s += '0';

        output = decimal.Parse(s.Substring(0, s.IndexOf(c) + Constants.PRECISION + 1));
        return output;
    }

现在我可能会看看是否不能直接设置指数。

编辑 2:新的位杂耍精度方法

    public static decimal Precision(decimal d)
    {
        if (d == 0) return 0.00000m;

        string exponent = System.Convert.ToString(Constants.PRECISION, 2);
        exponent = exponent.PadLeft(8, '0');
        int positive = Convert.ToInt32("00000000" + exponent + "0000000000000000", 2);
        int negative = Convert.ToInt32("10000000" + exponent + "0000000000000000", 2);

        int preScaler = (int)Math.Pow(10, Constants.PRECISION);
        d *= preScaler;
        d = decimal.Truncate(d);

        int[] bits = decimal.GetBits(d);
        bits[3] = (bits[3] & 0x80000000) == 0 ? positive : negative;
        return new decimal(bits);
    }

Answer 1

您可以使用此函数来确定小数的精度:

public int GetPrecision(decimal d)
{
    return (Decimal.GetBits(d)[3] >> 16) & 0x000000FF;  // bits 16-23
}

那么你的测试应该是这样的:

public void TestPrecisionSmall()
{
    PRECISION = 5;
    decimal d = Precision(42);
    Assert.That(GetPrecision(d) == PRECISION);  // or >= if that's more appropriate
}