Разработка тестов

можно протестировать?

ли в ручку стержень?
Присутствует ли держатель, позволяющий цеплять ручку за

край кармана?
Переключается ли ручка из рабочего в нерабочее положение?

Функциональные тесты (functional test)
Вставить в ручку стержень.
Переключить в рабочее положение.
Написать несколько слов.
Переключить в нерабочее положение.
Извлечь стержень.

Тестирование ручки

ручке в сравнении с другими ручками, которые выпускает наша фирма?
Что

мы можем сказать об этой ручке в сравнении с ручками, которые выпускают конкуренты?
В чём преимущества именно этой модели ручек?
Сценарные тесты (scenario tests). Как ручку может использовать:
Секретарь.
Преподаватель.
Студент.
Школьник.
Прораб.
Сантехник.
Милиционер.
Моряк.
…

Тестирование ручки

выходу стержня в рабочее положение?
Какое усилие и где надо приложить

к ручке, чтобы её сломать?
Если стержень застрял, легко ли его извлечь?
Что произойдёт, если писать по стеклу, асфальту?

Тесты интерфейса (interface tests, GUI tests)
Измерения: высота, ширина, длина, вес.
Цвет.
Читаемость логотипа фирмы-производителя.

Тесты удобства использования (usability tests)
Есть ли у нас какие-либо замечания по юзабилити ручек от пользователей?
Как много времени у пользователя занимает переключение ручки из нерабочего положения в рабочее и обратно?
Как быстро пользователь понимает, как пользоваться ручкой?
Как быстро пользователь привыкает к этой ручке?
Легко ли понять, какие стержни подходят к ручке?
Легко ли заменить стержень?
Может ли ручкой пользоваться левша?
Не смазываются ли чернила, если пишет левша?

Тестирование ручки

текста о гарантийных обязательствах?
Ясно ли видно на упаковке, что внутри?
Легко

ли открыть упаковку?
Насколько материалы упаковки вредны для окружающей среды?
Есть ли какие-то особые требования к упаковке?
На сайте, в каталоге, на упаковке написано и нарисовано одно и то же?
Текст на упаковке и в гарантийном обязательстве – на одном и том же языке?
На упаковке и в документации нет грамматических ошибок, опечаток и т.д.?

Стрессовые тесты (stress tests)
При какой температуре расплавится пластиковая часть ручки?
При какой температуре потечёт стержень?
При какой температуре ручка перестаёт писать?
Какое воздействие необходимо применить к ручке, чтобы сломать её?
Пишет ли ручка под водой? А по мокрой бумаге?
Если ручку уронить в песок – что произойдёт?
А если уронить со стола?
А если из окна офиса?

Тестирование ручки

времени?
Как быстро ручку можно привести в рабочее положение?
Как много раз

ручку можно переключить из нерабочего в рабочее положение, прежде чем её начнёт заедать?

Конфигурационные тесты (configuration tests)
Какие стержни подходят к нашей ручке?
На каких поверхностях она может писать?

Законодательные тесты (regulation tests)
Подлежит ли этот продукт какому-то виду лицензирования?
Необходима ли какая-то особая сопроводительная документация?
Ясно ли из документации ручки видно, в какой стране она произведена?
Существуют ли какие-то законодательные особенности, препятствующие распространению нашего продукта?

Тестирование ручки

является избыточным и не приводит к обнаружению новых дефектов.

Классы эквивалентности

же ошибки
Если один из тестов обнаруживает ошибку, другие её тоже,

скорее всего, обнаружат
Если один из тестов НЕ обнаруживает ошибку, другие её тоже, скорее всего, НЕ обнаружат
Тесты используют одни и те же наборы входных данных
Для выполнения тестов мы совершаем одни и те же операции
Тесты генерируют одинаковые выходные данные или приводят приложение в одно и то же состояние (например открытие валидных файлов одного типа и схожего объема, но с разным содержанием)
Все тесты приводят к срабатыванию одного и того же блока обработки ошибок («error handling block»)
Ни один из тестов не приводит к срабатыванию определенного блока обработки ошибок («error handling block») (например, блок обработки ошибок открытия файла)

Признаки эквивалентности

в которых один класс эквивалентности переходит в другой. Например, одна

группа тестов вызывает сообщение «вы ввели слишком маленькое число», а другая вызывает сообщение «вы ввели слишком большое число». Граница будет лежать где-то в районе чисел «самых больших из слишком маленьких» и «самых маленьких из слишком больших».
! Граничные условия очень важны, и их обязательно следует проверять в тестах, т.к. именно в этом месте чаще всего и обнаруживаются ошибки

Граничные условия

целое число в диапазоне от 1 до 99
Классы

эквивалентности здесь:
Любое целое в диапазоне от 1 до 99. Как правило, это будет середина числового отрезка (Позитивный тест)
Любое число меньше 1 (Негативный тест)
Любое число больше 99 (Негативный тест)
Дробь и «не число» (буквы, спецсимволы) (Негативный тест)

Граничные условия

букву
Ввести спецсимвол: ~`!”@’#$;%:^&?*()[]{},.\/+=-_

Граничные условия

сайте, пользователь должен кликнуть по кнопке Открыть, выбрать файл и

кликнуть по кнопке OK
Какие случаи нам надо будет проверить?

Пример для обсуждения

эквивалентен несуществующему)
Уже открытый файл (Нашим приложением и другим приложением)
Файл неверного

формата (По расширению и/или реальному содержимому)
Пустой файл
Повреждённый файл

Пример для обсуждения

чем позитивных.
Принадлежность теста к позитивным или негативным зависит от требований.

Выводы

тестировщик по-своему проходит их, расширяя тестовый набор своей экспертизой

Чек-лист

«косметику»
Используйте техники ускорения написания (copy-paste)

Чек-лист

expected results developed
for a particular objective, such as to exercise

a particular program path or to verify
compliance with a specific requirement.»
(«Набор тестовых входных данных, условий выполнения и ожидаемых результатов, разработанных с конкретной целью, такой как проверка некоторого пути выполнения программы или проверка соответствия некоторому требованию.»)

IEEE Std 829-1983:
«Documentation specifying inputs, predicted results, and a set of execution
conditions for a test item.»
(«Документ, определяющий набор входных данных, ожидаемых результатов и условий выполнения теста.»)

Далее в нашем курсе мы будем рассматривать слова «тест-кейс» и
«тест» как синонимы (в случаях, если не оговорено обратное).

Определения тест-кейсов

системный подход, что снижает вероятность пропуска ошибки.
Тест-кейсы – хороший способ

хранения части проектной информации.
Написание тест-кейсов – один из способов протестировать проектную документацию ещё до выхода первого билда.
Наличие тест-кейсов значительно ускоряет регрессионное тестирование.
Тест-кейсы – прекрасный способ быстро ввести в курс дела новичка или сотрудника, только что подключившегося к проекту.
Имея тест-кейсы, мы можем в любой момент «вспомнить», что мы делали месяц, полгода, год назад.
Мы можем обмениваться тест-кейсами (и «чек-листами») между проектами.
Тест-кейсы позволяют легко отслеживать прогресс (X% тестов выполнено, Y% тестов прошло (завалилось), Z% требований покрыто тестами).

Зачем нужны тест-кейсы

с другом.
Позитивными или негативными.

Свойства тест-кейсов

всегда будут выполняться строго одни и те же действия, что

снижает вероятность обнаружить ошибку.
Слишком общий тест-кейс сложно выполнять по многим объективным и субъективным причинам, а потому он вполне может остаться невыполненным.
Однако интеграционные тесты, как правило, бывают более общими, чем иные. Это связано со спецификой интеграционного тестирования.
Если в тесте прописано много мелких деталей, возрастает время его создания и поддержки.
Однако недостаток деталей может усложнить работу новичка.

Специфичность или общность

где – сложные?
Набор 1:
1. Откройте файл «1.txt». Файл открыт. 2. Введите

слово «Дом». Появляется слово «Дом. 3. Сохраните файл. Кнопка «Сохранить» становится неактивной.
Набор 2:
1. В документе размером более 100 Мб создайте таблицу 100×100, в ячейку 50×50 вставьте картинку размером 30 Мб, применив к ней функцию «Авторасположение». Проверьте результат.

Простота или сложность

легко выполнять.
Они понятны новичкам.
Они упрощают диагностику ошибки.
Они делают наличие ошибки

очевидным.
Каковы преимущества сложных тест-кейсов?
Больше шансов что-то сломать.
Пользователи, как правило, используют сложные сценарии.
Программисты сами редко проверяют такие варианты.
Следует постепенно повышать сложность тестов.

Простота или сложность

могут работать даже после краха приложения на других тестах.
Такие тесты

можно группировать любым образом и выполнять в любом порядке.
Каковы преимущества наборов тесно связанных тестов?
Они имитируют работу реальных пользователей.
Они удобны для интеграционного тестирования.
Они удобны для разбиения на части тестов с большим количеством шагов.
Следующий в наборе тест использует данные и состояние приложения, подготовленные предыдущим.
Промышленным стандартом являются независимые тесты. Использование сценариев не запрещено, но не следует делать их слишком длинными.

Независимость или связанность

рассчитано (т.е. такие тесты используют корректные данные и условия выполнения). Негативные

тесты проверяют работу приложения в нестандартных условиях (при получении некорректных данных или команд или при работе в некорректных условиях).
Обе разновидности тестов важны и нужны, однако следует помнить последовательность их разработки и выполнения: 1. Простые позитивные. 2. Простые негативные. 3. Сложные позитивные. 4. Сложные негативные.

Позитивность или негативность

(title)
Модуль и подмодуль приложения, к которым относится тест (module, submodule)
Приоритет

теста (priority: smoke, critical, extended; A, B, C, D)
Исходные данные, необходимые для теста (initial data) (обычно включается в шаги выполнения)
Шаги для выполнения теста (steps)
Ожидаемые результаты (expected results)
Поле для пометки, прошёл тест или нет (status)
Последний полученный актуальный результат (actual result), связанный с тестом баг (если есть) (related bug)
Указать автора теста (author), время последнего выполнения теста (last time run) (часто эта информация указывается в заголовке файла)

Что должен содержать тест-кейс

тестам.
Помните о граничных условиях.
Если остаётся время, занимайтесь исследовательским тестированием.


Рекомендации по

написанию тест-кейсов

безличную форму: «открыть» (вместо «откройте»)
Описывайте поведение системы: «появляется окно…», «приложение

закрывается»
Используйте простой технический стиль
ОБЯЗАТЕЛЬНО указывайте ТОЧНЫЕ названия всех элементов приложения
Не объясняйте базовые понятия работы с ОС

Язык написания тест-кейсов

по отношению к другим тестам.
Исследует соответствующую («ту, которую надо») область

приложения.
Позволяет легко диагностировать ошибку.
Делает обнаруженную ошибку очевидной.
Независим (каждый тест-кейс – это индивидуальный сценарий с точкой входа и точкой выхода).

Критерии хорошего тест-кейса

достижения некоторой цели. Хороший тестовый сценарий всегда следует некоторой логике, например:

типичному использованию приложения, удобству тестирования, распределению функций по модулям и т.д.

Тестовые набор (Test Suite)

и Critical Path тестов.
Постепенно повышайте сложность тестов.
Организуйте сценарий логично.
Используйте один

тест для ОДНОЙ проверки.
Помните, что заголовки тестов отражают их суть. Правильно формулируйте и оформляйте заголовки.
Помните о необходимых приготовлениях к тесту. Описывайте их.
Не повторяйте в нескольких тестах одни и те же шаги.
Старайтесь избегать похожих тестов (таких, в которых набор шагов и ожидаемых результатов визуально кажется одинаковым).

Рекомендации по написанию тестовых наборов

в документ с тестами, помечая красным цветом.
Используйте т.н. «косметику» (жирный,

подчёркнутый, наклонный шрифт, разные цвета т.д.) Это значительно повышает читаемость документа.
По-максимуму используйте возможности ПО, в котором вы разрабатываете тесты (группировки, фильтры, ссылки и т.д.)
 Если вы пишете тесты в файле, обязательно прописывайте в самом файле историю его изменения.

Техники ускорения написания тестов

чек-листов
Написание тест-кейсов

Шаги разработки тестовых сценариев

на отдельные части/модули.
Для каждой области/модуля пишите чек-лист.
Пишите вопросы, уточняйте детали,

добавляйте «косметику», используйте copy-paste.
Получите рецензию коллег-тестировщиков, разработчиков, заказчиков.
Обновляйте тесты, как только обнаружили ошибку или изменилась функциональность.

Шаги разработки тестовых сценариев

тест-кейс

тестов.

Учимся составлять первый тест-кейс

– готовые заголовки тест-кейсов.


Учимся составлять первый тест-кейс

следующий вид:


Учимся составлять первый тест-кейс

составлять первый тест-кейс

достаточный набор тестов. После этого переносим его в шаблон и

работаем аналогично тому, как мы делали это при разработке Smoke Test.

Учимся составлять первый тест-кейс

книге «Искусство тестирования программ» («The Art Of Software Testing»). С

тех пор она известна как «задача о треугольнике» и является своего рода классическим вопросом на множестве собеседований на должность тестировщика

Программа производит чтение с перфокарты трёх целых чисел, которые интерпретируются как длины сторон треугольника. Далее программа печатает сообщение о том, является ли треугольник неравносторонним, равнобедренным или равносторонним

Задача о треугольнике