python - 如何将一些生成的测试标记为 xfail/skip？

Question

我经常使用 py.test 生成测试，其中一些测试用例预计会失败。我怎样才能将它们标记为 xfail？如果我将 @py.test.mark.xfail 放在测试函数上，则意味着它的所有实例都是 xfail。如果我在测试中执行 py.test.xfail() 它实际上未通过测试，而不仅仅是将其标记为 xfail。我可以用 metafunc 做些什么来添加这个标记吗？

例如

# code - function with a bug :)

def evenHigherThanSquare(n):
    return n**2


# test file

def pytest_generate_tests(metafunc):
    data = [
        (2, 4),
        (3, 10), # should be xfail
        (4, 16),
        (5, 26), # should be xfail
        ]
    for input, expected in data:
        if metafunc.function is test_evenHigherThanSquare:
            metafunc.addcall(funcargs=dict(input=input, expected=expected))


def test_evenHigherThanSquare(input, expected):
    assert evenHigherThanSquare(input) == expected

Answer 1

当然，您可以使用 funcarg factory至 apply an xfail marker (since 1.3.2) :

def pytest_generate_tests(metafunc):
    data = [
        # input # output # is expected to fail?
        (2, 4, False),
        (3, 10, True),
        (4, 16, False),
        (5, 26, True),
        ]
    for input, expected, xfail in data:
        if metafunc.function is test_evenHigherThanSquare:
            metafunc.addcall(funcargs=dict(input=input, expected=expected),
                             param=xfail)


def pytest_funcarg__xfail(request):
    if request.param:
        request.applymarker(py.test.mark.xfail)


def test_evenHigherThanSquare(input, expected, xfail):
    assert evenHigherThanSquare(input) == expected

这里我们使用test_evenHigherThanSquare未使用的xfail参数来触发对每个测试项的pytest_funcarg__xfail调用；它使用提供给 metafunc.addcall 的 param 来决定是否让测试失败。

Funcarg 工厂更常用于生成在收集时创建成本高昂的参数，但应用标记也是一种完全受支持的用法。