pytest：如何在会话结束时获取所有失败测试的列表？ （并且在使用 xdist 时）

Question

我想列出在 session 结束时未能使用的所有测试。

Pytest 让你定义一个钩子pytest_sessionfinish(session, exitstatus) ，它在会话结束时调用，我希望在那里有那个列表。

session是一个_pytest.main.Session实例，它具有属性items (type list )，但我找不到该列表中的每个item是否通过失败。

1. 如何在会话结束时检索所有失败测试的列表？

2. 使用pytest-xdist插件时如何完成，我想在主进程中获取该列表。 使用这个插件， session甚至在 master 中都没有items属性：

    def pytest_sessionfinish(session, exitstatus): if os.environ.get("PYTEST_XDIST_WORKER", "master") == "master": print(hasattr(session, "items")) # False

Answer 1

使用-rf运行 pytest 以使其在最后打印失败的测试列表。

从py.test --help ：

  -r chars              show extra test summary info as specified by chars
                        (f)ailed, (E)error, (s)skipped, (x)failed, (X)passed,
                        (p)passed, (P)passed with output, (a)all except pP.
                        Warnings are displayed at all times except when
                        --disable-warnings is set

这是你得到的：

$ py.test -rf
================= test session starts =================
platform darwin -- Python 3.7.2, pytest-4.3.1, py-1.6.0, pluggy-0.7.1
[...]
=============== short test summary info ===============
FAILED test_foo.py::test_foo_is_flar
FAILED test_spam.py::test_spam_is_mostly_pork
FAILED test_eggs.py::test_eggs_are_also_spam
=== 3 failed, 222 passed, 8 warnings in 12.52 seconds ==

Answer 2

您可以使用命令行选项--result-log ：

test_dummy.py：

def test_dummy_success():
    return


def test_dummy_fail():
    raise Exception('Dummy fail')

命令行：

$ py.test --result-log=test_result.txt

test_result.txt 的内容

. test_dummy.py::test_dummy_success
F test_dummy.py::test_dummy_fail
 def test_dummy_fail():
 >       raise Exception('Dummy fail')
 E       Exception: Dummy fail

 test_dummy.py:6: Exception

只需在第一列中搜索“F”，然后搜索 [file]::[test]

Answer 3

如果你想要测试的结果，你可以使用钩子runtest_makereport ：

@pytest.hookimpl(tryfirst=True, hookwrapper=True)
def pytest_runtest_makereport(item, call):
    outcome = yield
    rep = outcome.get_result()
    if rep.when == 'call' and rep.failed:
        mode = 'a' if os.path.exists('failures') else 'w'
        try:  # Just to not crash py.test reporting
          pass  # the test 'item' failed
        except Exception as e:
            pass

Answer 4

--result-log已弃用。 您可以改为使用-v在运行时输出测试用例名称。 如果将其通过管道传输到文件中，则可以查询它。 因此，如果您从脚本运行测试，则可以执行以下操作：

pytest -v | tee log.txt
grep -E '::.*(FAILURE|ERROR)' log.txt

Answer 5

我想要一份关于失败测试和参数化变化的简明报告，所以在pytest_terminal_summary中使用conftest.py ：

def pytest_terminal_summary(terminalreporter, exitstatus, config):
    terminalreporter.section('Failed tests')
    failures = [report.nodeid.split('::')[-1]
                for report in terminalreporter.stats.get('failed', [])]
    terminalreporter.write('\n'.join(failures) + '\n')

如果您检查terminalreporter._session.items ，您可以将更多信息添加到报告中，这正是我想要的。

Answer 6

您可以获取仅失败测试的详细信息，并使用以下命令将日志保存到文件中。 日志还包含每个测试的跟踪。

py.test -rf tests/ | tee logs.txt

Answer 7

我来访问这个问题，试图找出session实例的内部数据结构。

迭代session.items您可以检查rep_call.outcome以获取测试结果的字符串表示。

def pytest_sessionfinish(session, exitstatus):
    for item in session.items:
        print('{} {}'.format(item.name, item.rep_call.outcome))

通过简单的测试用例，你会得到这个

test_positive passed
test_negative failed