Виды и методы тестирования

1. Лекция 3. Виды и методы тестирования

Андреев Игорь Алексеевич

2. Терминология

• Часто используют следующие термины:
– валидация
– верификация
– тестирование

3. Валидация программной системы 

Валидация программной системы
• Цель - доказательство того, что в
результате разработки ПО достигнуты те
цели, которые планировали достичь
благодаря ее использованию.
• Т.е - это проверка соответствия системы
ожиданиям заказчика.

4. Верификация программного обеспечения

• Целью - достижение гарантии того, что верифицируемый
объект (требования или программный код)
– соответствует требованиям,
– реализован без непредусмотренных функций и
– удовлетворяет проектным спецификациям и стандартам.
• Процесс верификации включает в себя
– инспекции,
– тестирование кода,
– анализ результатов тестирования,
– формирование и анализ отчетов о проблемах.
• Таким образом, считается, что процесс тестирования
является составной частью процесса верификации.

5. Валидация, верификация и тестирование

6. Классификация видов тестирования

• Существующие методы тестирования ПО
можно классифицировать разными способами.
• Признаки классификации
– по объекту тестирования;
– по знанию системы;
– по степени автоматизированности;
– по степени изолированности компонентов;
– по времени проведения тестирования.

7. Классификация видов тестирования по объекту тестирования

• Функциональное тестирование (functional testing)
• Нагрузочное тестирование (load testing)
• Тестирование производительности
(perfomance/stress testing)
• Тестирование стабильности (stability/load testing)
• Тестирование удобства использования (usability
testing)
• Тестирование интерфейса пользователя (UI testing)
• Тестирование безопасности (security testing)
• Тестирование локализации (localization testing)
• Тестирование совместимости (compatibility testing)

8. Нагрузочное тестирование

• Нагрузочное тестирование позволяет получать
прогнозируемые данные о производительности системы под
нагрузкой
• Предоставляют рабочую информацию службам технической
поддержки, а также менеджерам проектов и
конфигурационным менеджерам, которые отвечают за
создания наиболее продуктивных конфигураций
оборудования и ПО.
• Нагрузочное тестирование позволяет команде разработки,
принимать более обоснованные решения, направленные на
выработку оптимальных архитектурных композиций.
• Заказчик со своей стороны, получает возможность проводить
приёмо-сдаточные испытания в условиях приближенных к
реальным.

9. Классификация видов тестирования по знанию системы

• Тестирование чёрного ящика (black box)
• Тестирование белого ящика (white box)

10. Тестирование «белого ящика» и «чёрного ящика»

• Тестирование «белого ящика» - разработчик тестов
имеет доступ к исходному коду тестируемого ПО.
– может писать код, который связан с библиотеками
тестируемого ПО.
– типично для юнит-тестирования, когда тестируются только
отдельные части системы.
– обеспечивает то, что компоненты конструкции —
работоспособны и устойчивы, до определённой степени.
• Тестирование «черного ящика» - тестировщик имеет
доступ к ПО только через те же интерфейсы
– через пользовательский интерфейс
– через прикладной программный интерфейс,
предоставленный тестируемым модулем.

11. Классификация видов тестирования по степени автоматизированности

• Ручное тестирование (manual testing)
• Автоматизированное тестирование
(automated testing)

12. Классификация видов тестирования по степени изолированности компонентов

• Компонентное (модульное, юнит)
тестирование (component/unit testing)
• Интеграционное тестирование (integration
testing)
• Системное тестирование (system/end-to-end
testing, приемочное)

13. Модульное тестирование (юнит тестирование)

• Модульному тестированию подвергаются небольшие
модули (процедуры, классы и т.п.).
• При тестировании небольшого модуля (100-1000 строк)
можно проверить,
– многие логические ветви в реализации,
– разные пути в графе зависимости данных,
– граничные значения параметров.
• Для этого составляются критерии тестового покрытия
(покрыты все операторы, все логические ветви, все
граничные точки и т.п.).
• Модульное тестирование обычно выполняется для каждого
независимого программного модуля и является наиболее
распространенным видом тестирования
– особенно для систем малых и средних размеров.

14. Интеграционное тестирование

• Проверка корректности всех модулей не гарантирует
корректности функционирования системы модулей.
• Необходимо проверять (тестировать) их совместную работу.
• Для больших программных систем это нереально
использовать метод «большого скачка»
• разработать все приложение
• протестировать каждый модуль в отдельности
• потом объединить их в систему и тестируется система целиком.
• Требуется очень много времени на поиск ошибок, а качество
тестирования останется невысоким.
• Интеграционное тестирование альтернатива «большому
скачку» — система строится поэтапно, группы модулей
добавляются постепенно.

15. Системное тестирование (приемочное тестирование)

• Полностью реализованное ПО подвергается системному тестированию.
• Тестировщика интересует не корректность реализации отдельных процедур
и методов, а вся программа в целом,
– как ее видит конечный пользователь.
• Основой для тестов служат общие требования к программе, включая не
только корректность реализации функций, но и
– производительность,
– время отклика,
– устойчивость к сбоям, атакам, ошибкам пользователя
– и т.д.
• Для системного и компонентного тестирования используются
специфические виды критериев тестового покрытия
• Например:
– покрыты ли все типовые сценарии работы,
– покрыты ли все сценарии с нештатными ситуациями, попарные композиции
сценариев
– и проч.

16. Классификация видов тестирования по времени проведения тестирования

• Альфа тестирование (alpha testing)
• Тестирование при приёмке (smoke testing)
• Тестирование новых функциональностей (new
feature testing)
• Регрессионное тестирование (regression
testing)
• Тестирование при сдаче (acceptance testing)
• Бета тестирование (beta testing)

17. Альфа-тестирование

• Альфа-тестирование — имитация реальной работы с системой
– штатными разработчиками,
– либо реальная работа с системой потенциальными пользователями
/ заказчиком.
• чаще всего альфа-тестирование проводится на ранней стадии
разработки продукта,
• в некоторых случаях может применяться для законченного
продукта в качестве внутреннего приёмочного тестирования.
• Иногда альфа-тестирование выполняется под отладчиком или
с использованием окружения, которое помогает быстро
выявлять найденные ошибки.
• Обнаруженные ошибки могут быть переданы тестировщикам
для дополнительного исследования в окружении, подобном
тому, в котором будет использоваться ПО.

18. Бета-тестирование

• Бета-тестирование —распространение версии с
ограничениями (по функциональности или
времени работы) для некоторой группы лиц, с
тем чтобы убедиться, что продукт содержит
достаточно мало ошибок.
• Иногда бета-тестирование выполняется для того,
чтобы получить обратную связь о продукте от его
будущих пользователей.

19. Регрессионное тестирование

• Регрессио́нное тести́ рование — общее название
для всех видов тестирования программного
обеспечения, направленных на обнаружение
ошибок в уже протестированных участках
исходного кода.
– Ошибки — когда после внесения изменений в
программу перестает работать то, что должно было
продолжать работать, — называют регрессионными
ошибками (regression bugs).
• Методы регрессионного тестирования включают
повторные прогоны предыдущих тестов, а также
проверки, не попали ли регрессионные ошибки в
очередную версию в результате слияния кода.

20.

• Повторное появление одних и тех же ошибок
случается достаточно часто.
• Хорошая практика при исправлении ошибки
создать тест на неё и регулярно прогонять его
при последующих изменениях программы.
• Базовая проблема сопровождении программ исправление одной ошибки с большой
вероятностью (20-50%) влечет появление
новой.
– Весь процесс идет по принципу "два шага вперед,
шаг назад».

21.

• Эффективное тестирование сложного ПО —
это процесс в высшей степени творческий, не
сводящийся к следованию строгим и чётким
процедурам или их созданию.