Как хранить чек-лист с проверками для валидации тестов и интегрировать результаты в отчеты
Что проверяют
Есть ли у вас система, а не файл «чек-лист финал2.xlsx»: где живут проверки, как они версионируются и как результат прогона превращается в отчёт, понятный команде. Следом спрашивают, как вы сводите автотесты и ручные проверки в один отчёт.
Как отвечать
Опирайтесь на свой опыт и называйте инструменты, с которыми работали, с конкретикой: сколько проверок, как часто прогон, кто читает отчёт. Каркас:
- хранение: система управления тестированием (TestRail, Qase, Test IT, Allure TestOps, Xray или Zephyr в Jira) либо чек-листы как код, в Markdown или YAML в репозитории рядом с автотестами. Второй вариант даёт историю изменений и ревью через pull request;
- структура проверки: постоянный идентификатор, короткая формулировка, ожидаемый результат, приоритет, ссылка на требование или задачу. Идентификатор нужен, чтобы результат прогона однозначно ложился на проверку;
- прогон: отдельный тест-ран на сборку и окружение. Статусы не только «прошло» и «упало», но и «заблокировано» и «пропущено» с причиной, у упавших ссылка на дефект;
- автотесты: проверка помечается тем же идентификатором (аннотация, тег,
@allure.id), CI после прогона выгружает результаты в JUnit XML илиallure-resultsи отправляет в систему через API или готовый плагин; - отчёт: версия сборки, окружение, сколько проверок пройдено из запланированных, список упавших с дефектами, блокеры релиза. Allure Report добавляет историю и тренды по прогонам.
Если такой интеграции вы не строили, честно скажите об этом и опишите, как сделали бы: какие поля завели бы в чек-листе и какой шаг добавили бы в пайплайн.
Где спотыкаются
Хранят чек-лист в таблице на общем диске. Нет истории, нет связи с версией сборки, и через месяц непонятно, по какой редакции проверяли релиз.
Приносят в отчёт один процент прохождения. Команде важнее, что именно упало, есть ли блокеры и какие проверки не запускались вообще.
Держат ручные и автоматические проверки в разных местах без общих идентификаторов. Тогда полной картины по релизу нет ни у кого.