Документирование как основа тестирования

нескольких тестовых примеров и процедур
ТЕСТОВАЯ ПРОЦЕДУРА – перечень большого числа

этапов со своими входными данными, каждый из которых имеет свои промежуточные ожидаемые результаты
ТЕСТОВЫЙ ПРИМЕР – комбинация специфических входных данных и ожидаемых результатов.

ПРИМЕЧАНИЕ. В современной IT-промышленности терминология, касающаяся QA и тестирования, весьма запутана. Например, термины тест, тестовая процедура и тестовый пример путают, используют в разных контекстах по-разному или попеременно.
Особенно плохо дело обстоит с русскоязычной терминологией.

case, ТС, тестовый пример) часто используются как синонимы.
Тестовый пример –

это совокупность
Конфигурации системы
Входных данных
Начальных условий
Сценария (алгоритма действий). Может содержать условия и переходы, однако лучше, чтобы он был линейным и достаточно коротким
Ожидаемых результатов (и конечного состояния, которое может отличаться от начального состояния/условий)

требований (Software requirement specification, SRS)
Traceability matrix (матрица прослеживаемости)
Тест-план (Test plan,

test strategy - TP)
Тестовая спецификация (Test specification, TS)
Test cases, Тестовые процедуры
Test log
Bug report

руководства пользователя, заметки разработчиков)
Исследование (результат собственного опыта, полученного в ходе

экспериментов над программой)
Аналогичные проекты

приоритетом
Тестируйте новые функциональные возможности и программный код, который изменялся
Используйте разбиение

на эквивалентные классы и анализ граничных значений
Тестируйте те участки, в которых наиболее вероятно присутствие проблем
Сосредоточьте свое внимание на функциях и конфигурациях, с которыми наиболее часто будет иметь дело конечный пользователь

Павловская Т.А. (СПбГУ ИТМО)

тестирования
ответственные сотрудники
вероятность возникновения непредвиденных обстоятельств и меры, которые потребуется при

этом принимать
(стандарт ANSI/IEEE 829-2983 for Software Test Documentation)

работами и контроль хода их выполнения
облегчает организацию технических аспектов тестирования
помогает

организовать и скоординировать усилия сотрудников, разрабатывающих и тестирующих программный продукт
повышает эффективность и полноту тестирования
документация должна быть не объемной, а эффективной. Любые составляющие плана, не помогающие в поиске ошибок и организации тестирования, являются пустой тратой ресурсов

с разработкой его плана)
Первый этап - начальная разработка:
Проработка спецификации /

пользовательской документации
Первая версия списка функций программы (полнота списка определяет полноту тестирования) (список будет постепенно расширяться)
Анализ входных данных и ограничений (простейший анализ граничных условий)

области программы, тем больше их там же)
Наиболее заметные ошибки (пользователю)
Наиболее часто

используемые области программы
Отличительные особенности программы (то, что отличает от конкурентов)
Самые сложные аспекты для тестирования
Самые понятные функциональные области

форм
вх. и вых. переменных
возможностей и функций
файлов
сообщений об ошибках
совместимого оборудования
совместимых программ
публикуемых

документов
конфигураций совместимой операционной среды
перечень материалов

отчетов
вх. и вых. значений
ввода-вывода
решений
клавиатурных комбинаций
совместимых принтеров
диаграмма граничных значений
диаграмма потоков данных

иерархический список функций

и клавиатурных комбинаций
Кроме того, ведется матрица прослеживаемости требований (отображение каждого

требования на тест-кейсы).

(все доступные опции и варианты)
Детализация до элементарных логических действий программы
Перечислить

входные и выходные условия для каждой функции и подфункции
Список всех способов диалога с программой при выполнении каждой из функций (клавиатура, мышь)

Каждая строка этого списка в конце концов преобразуется в тестовый пример

функции
нетестируемые функции
подход к тестированию (кто, виды работ, технологии и средства,

критерии, крайние сроки)
критерии прохождения тестов
документация
необходимое оборудование
календарный план
ответственность
…

исполнению: все, что там написано – д.б. выполнено
Оптимизация Test Specification

– одна из основных задач
Вообще набор видов тестирования содержится в Test Plan’е

степени конфиденциальности
Содержание
Введение
Фактическая часть – тестовые примеры (test cases)

неуспешном прохождении

...
Приоритеты
Группы и подгруппы
Детализация результатов выполнения
Критический/некритический/косметический
Номер ошибки в системе сопровождения ошибок
Комментарии

относительно хода выполнения

на тестовый пример (возможно доп. разбивка по подгруппам)
На каждый билд
На

последний билд
На каждой платформе
Процент покрытия функциональности/тестовых примеров
по каждому билду
По каждой платформе
По последнему тестируемому билду
.......

состояние в данной контрольной точке, т.е. отчет отвечает на вопрос

вида "да или нет'' — выполнены необходимые для этой точки условия или нет;
показывать динамику процесса и переход от одной его фазы к другой, т.е. отчет предоставляет информацию для принятия решения о возможности перехода от одного этапа процесса к последующему.

краткое описание)
Ссылки (в т.ч. на спецификацию)
Среда выполнения (setup & additional

info)
Пошаговое описание
Критерий выполнения (ожидаемый результат)*

* Лучше, когда ожидаемый результат один, но м.б. и несколько.

(для конфигурационного менеджмента)
Краткое описание
Полное описание
Приоритет
Статус (new, modified, retired)
Название модуля

данные в «шапку», чтобы их было легко изменить).
2. Не описывать

шаги по явно очевидным сценариям (например, логин, если проверяется не он).
3. Не давать конкретных деталей, если они не играют роли при исполнении тест-кейса (например, имя товара).
4. Вынести во внешний документ повторяющиеся сценарии (например, семь шагов оплаты).
(из Р. Савина)

от друга (отсутствие ссылок на другие тест-кейсы; независимость от "следов",

оставленных другими тест-кейсами в ПО или базе данных)
2. Четкая формулировка шагов (хороший ТС может без труда воспроизвести другой человек, а также вы сами через год; излишние детали тоже ни к чему).
3. Четкая формулировка идеи и/или ожидаемого результата (ожидаемый результат — это информация, на основании которой, вкупе с фактическим результатом, принимается решение об исходе тест-кейса. Следовательно, точность и четкость в формулировке ожидаемого результата играют важнейшую роль. Не рекомендуется отсылка к внешнему документу).

которого:
• если необходимо, добавить новые тест-кейсы;
• если необходимо, внести изменения

по существу, например если при создании тест-кейса тестировщик неправильно понял спек;
• если возможно, удалить лишние (дублирующие) тест-кейсы;
• сделать тест-кейсы более удобными для поддержки;
• отшлифовать формулировки.

(например, "Оплату")
и/или определенный спек (например, спек номер 1455 "Рассылка пользователям

е-мейлов на основании истории заказов").

Обычно располагается в одном файле.