1-23,24. 애플리케이션 테스트케이스 설계(1),(2)

CHAPTER 08. 애플리케이션 테스트 관리
Section 1. 애플리케이션 테스트케이스 설계

1. 소프트웨어 테스트

⑴ 소프트웨어 테스트의 개념
Ÿ 구현된 소프트웨어에서, 사용자가 요구하는 기능의 동작과 성능, 사용성, 안정성 등을 만족하기 위하여
소프트웨어의 결함을 찾아내는 활동
Ÿ 노출되지 않은 숨어있는 결함(Fault)을 찾기 위해 소프트웨어를 작동시키는 일련의 행위와 절차
Ÿ 오류 발견을 목적으로 프로그램을 실행하여 품질을 평가하는 과정
Ÿ 개발된 소프트웨어의 결함과 문제를 식별하고 품질을 평가하며 품질을 개선하기 위한 일련의 활동

⑵ 소프트웨어 테스트의 필요성
Ÿ 오류 발견 관점
Ÿ 오류 예방 관점
Ÿ 품질 향상 관점

 

⑶ 소프트웨어 테스트의 기본 원칙
Ÿ 테스팅은 결함이 존재함을 밝히는 활동이다.
Ÿ 완벽한 테스팅은 불가능하다.
Ÿ 테스팅은 개발 초기에 시작해야 한다.

Ÿ 결함 집중(Defect Clustering)
- 애플리케이션 결함의 대부분은 소수의 특정한 모듈에 집중되어 존재한다.
- 파레토 법칙 : 전체 결과의 80%가 전체 원인의 20%에서 일어나는 현상 Ÿ 살충제 패러독스(Presticide Paradox)
- 동일한 테스트 케이스로 반복 실행하면 결함을 발견할 수 없으므로 주기적으로 테스트 케이스를 리뷰하고
개선해야 한다.
Ÿ 테스팅은 정황(Context)에 의존한다.
- 정황과 비즈니스 도메인에 따라 테스트를 다르게 수행하여야 한다.
Ÿ 오류-부재의 궤변(Absence of Errors Fallacy)
- 사용자의 요구사항을 만족하지 못하는 오류를 발견하고 그 오류를 제거하였다 해도, 해당 애플리케이션의
품질이 높다고 말할 수 없다.

⑷ 테스트 프로세스
Ÿ 테스트 계획
Ÿ 테스트 분석 및 디자인
Ÿ 테스트 케이스 및 시나리오작성
Ÿ 테스트 수행
Ÿ 테스트 결과 평가 및 리포팅

⑸ 테스트 산출물
Ÿ 테스트 계획서
- 테스트 목적과 범위 정의, 대상 시스템 구조 파악, 테스트 수행 절차, 테스트 일정, 조직의 역할 및 책임 정의, 종료 조건 정의 등 테스트 수행을 계획한 문서

Ÿ 테스트 케이스
- 소프트웨어가 사용자의 요구사항을 준수하는지 확인하기 위해 설계된 입력 값, 테스트 조건, 기대 결과로 구성
된 테스트 항목의 명세서
- 케이스를 작은 단위로 나누어 각 단위의 입력 값, 테스트 조건, 기대 결과를 기술한다.

Ÿ 테스트 시나리오
- 테스트를 위한 절차를 명세한 문서
- 테스트 수행을 위한 여러 개의 테스트 케이스의 집합으로 테스트 케이스의 동작 순서를 기술한 문서

Ÿ 테스트 결과서
- 테스트 결과를 정리한 문서
- 테스트 프로세스를 리뷰하고, 테스트 결과를 평가하고 리포팅하는 문서

2. 테스트 오라클
⑴ 테스트 오라클의 개념
Ÿ 테스트의 결과가 참인지 거짓인지를 판단하기 위해서 사전에 정의된 참 값을 입력하여 비교하는 기법 및 활동

 

⑵ 테스트 오라클의 유형
Ÿ 참 오라클 (True)
- 모든 입력 값에 대하여 기대하는 결과를 생성함으로써 발생된 오류를 모두 검출할 수 있는 오라클
- 항공기, 임베디드, 발전소 소프트웨어 등 크리티컬한 업무
Ÿ 샘플링 오라클 (Sampling)
- 특정한 몇 개의 입력 값에 대해서만 기대하는 결과를 제공해 주는 오라클
- 일반, 업무용, 게임, 오락등의 일반적인 업무
Ÿ 휴리스틱 오라클 (Heuristic)
- 샘플링 오라클을 개선한 오라클로, 특정 입력 값에 대해 올바른 결과를 제공하고, 나머지 값들에 대해서는
휴리스틱(추정)으로 처리하는 오라클
Ÿ 일관성 검사 오라클 (Consistent)
- 애플리케이션 변경이 있을 때, 수행 전과 후의 결과 값이 동일한지 확인하는 오라클

3. 테스트 레벨
⑴ 단위테스트
Ÿ 소프트웨어 개발에서 테스트 프로세스의 첫 단계
Ÿ 에러를 줄이기 위한 의도로 작성된 코드에 대한 분석을 진행
Ÿ 코드가 효율적으로 작성되었는지, 프로젝트 내에 합의된 코딩 표준을 준수하고 있는지도 검증
Ÿ 모듈 설계 단계에서 준비된 테스트 케이스를 이용하며, 코드를 개발한 개발자가 직접 수행

 

⑵ 통합 테스트
Ÿ 각각의 모듈들을 통합하여, 통합된 컴포넌트 간의 인터페이스와 상호작용 과정의 오류를 발견하는 작업을 수행
Ÿ 코드를 직접 확인하는 형태가 아닌 프로그램을 실행하며 테스트를 진행
Ÿ 설계 단계에서 준비된 테스트 케이스를 사용하여 테스트가 진행되며, 일반적으로 개발자가 진행

 

⑶ 시스템 테스트
Ÿ 실제 구현된 시스템과 계획된 사양(specifications)을 서로 비교하는 작업
Ÿ 단위, 통합 테스트 후 전체 시스템이 정상적으로 작동하는지 확인
Ÿ 시스템 테스트 유형
유형
설명
- 고객의 기능적 요구사항을 중점적으로 테스트한다.

기능 테스트
- 요구사항에 따른 기능의 구현 여부 및 동작 여부에 대해 테스트를 진행한다.

- 테스트 기준은 명세에 따라 확인한다.

- 고객의 성능 요구사항을 중점적으로 테스트 한다.

비기능 테스트
- 성능, 신뢰성, 안정성, 유효성, 적합성 등을 확인한다.

- 확인하고자 하는 특성에 따라 환경과 도구가 필요하다.

⑷ 인수 테스트
Ÿ 시스템을 배포하거나 실제 사용할만한 준비가 되었는지에 대해 평가
Ÿ 사용자가 요구분석 명세서에 명시된 사항을 모두 충족하는지 판정하고, 시스템이 예상대로 동작하고 있는지를
판정하는 방안을 파악

Ÿ 인수 테스트 유형
유형
설명
- 개발자의 통제 하에 사용자가 개발 환경에서 수행하는 테스트
알파 테스트
- 내부에서 진행하는 자체 검사로 실제 사용 환경에서 동작시키며 관련자만 참여한다.

베타 테스트
- 개발된 소프트웨어를 사용자가 실제 운영환경에서 수행하는 테스트
(필드 테스팅)
- 알파 테스트를 거친 후 정식으로 출시하기 전 사용자에게 테스트를 하도록 한다.

사용자 인수 테스트
- 사용자가 시스템 사용의 적절성을 확인
- 시스템 관리자에 의한 시스템 인수 시 수행
운영상 인수 테스트
- 백업/복원테스트, 재난복구, 보안 취약성 점검
계약 인수 테스트
- 계약 상의 인수조건을 준수하는지 확인
규정 인수 테스트
- 정부의 지침, 법률 또는 안전 규정 등을 준수하는지 확인

4. 소프트웨어 테스트 기법
⑴ 프로그램 실행 여부
① 정적 테스트
Ÿ 소프트웨어의 실행 없이 소스 코드의 구조를 분석하여 논리적으로 검증하는 테스트
Ÿ 경로 분석, 제어 흐름 분석, 데이터 흐름 분석 등을 수행
② 동적 테스트
Ÿ 소프트웨어를 실행 하여 실제 발생하는 오류를 발견하여 문제를 해결하는 분석 기법
Ÿ 다양한 운영 환경에서 소프트웨어를 분석

⑵ 테스트 기법
① 화이트박스 테스트
Ÿ 소프트웨어의 내부 구조와 동작을 검사하는 테스트 방식
Ÿ 소프트웨어 내부 소스코드를 테스트 하는 기법
Ÿ 개발자가 내부 소스코드 동작을 추적하여, 동작의 유효성과 코드를 꼼꼼하게 테스트 할 수 있다.

Ÿ 개발자 관점의 단위 테스트 방법
Ÿ 화이트박스 테스트 기법

기법
설명
검증 방법
문장 검증
프로그램의 모든 문장을 한번 수행하여 검증
1,2,3,4,5,6,7
1,2,3,4,5,6,7
선택(분기) 검증
선택하는 부분만 검증
1,2,4,5,6,1
1,2,3,4,5,6,7
1,2,3,4,5,6,1
경로 검증
수행 가능한 모든 경로 검사
1,2,4,5,6,7
1,2,3,5,6,1
x>1 or y<10 일 경우
조건 검증
조건이나 반복문 내 조건식을 검사
x>1 조건과 y<10
모두 테스트
② 기초 경로 검사 (Basic Path Test)
Ÿ McCabe가 제안한 것으로 대표적인 화이트박스 테스트 기법
Ÿ 계산식 : V(G)=E-N+2

③ 블랙박스 테스트
Ÿ 프로그램의 외부 사용자 요구사항 명세를 보면서 테스트, 주로 구현된 기능을 테스트
Ÿ 사용자가 소프트웨어에 요구하는 사항과 결과물이 일치하는지 확인
Ÿ 사용자 관점의 테스트 방법
Ÿ 블랙박스 테스트 기법
기법
설명
동등 분할 기법
- 입력 자료에 초점을 맞춰 테스트 케이스를 만들어 검사하는 방법
(Equivalence
- 입력 데이터의 영역을 유사한 도메인별로 유효값과 무효값을 그룹핑하여 나누어서
Partitioning Testing)
검사
경계값 분석
- 입력 값의 중간값보다 경계값에서 오류가 발생할 확률이 높다는 점을 이용해
(Boundary
입력 조건의 경계값을 테스트 케이스로 선정한다.

Value Analysis)
원인-효과 그래프 검사
- 입력 데이터 간의 관계와 출력에 영향을 미치는 상황을 체계적으로 분석한 다음
(Cause-Effect
효용성이 높은 테스트 케이스를 선정하여 검사하는 기법
Graphing Testing)
오류 예측 검사
- 과거의 경험이나 테스터의 감각으로 테스트하는 기법
(Error Guessing)
비교 검사
- 여러 버전의 프로그램에 동일한 테스트 자료를 제공하여 동일한 결과가 출력되는지
(Comparison Testing)
테스트하는 기법이다.

⑶ 테스트에 대한 시각
① 검증(Verification)
Ÿ 소프트웨어의 개발 과정을 테스트
Ÿ 올바른 소프트웨어가 만들어지고 있는지 검증

② 확인(Validation)
Ÿ 완성된 소프트웨어의 결과를 테스트
Ÿ 완성된 소프트웨어가 정상적으로 동작하는지 확인
Ÿ 완성된 소프트웨어가 사용자의 요구사항을 만족하는지 확인

⑷ 테스트 목적
Ÿ 회복(Recovery) 테스트
- 시스템에 고의로 실패를 유도하고 시스템이 정상적으로 복귀하는지 테스트
Ÿ 안전(Security) 테스트
- 불법적인 소프트웨어가 접근하여 시스템을 파괴하지 못하도록 소스코드 내의 보안적인 결함을 미리 점검하는
테스트
Ÿ 강도(Stress) 테스트
- 시스템에 과다 정보량을 부과하여 과부하 시에도 시스템이 정상적으로 작동되는지를 검증하는 테스트
Ÿ 성능(Performance) 테스트
- 사용자의 이벤트에 시스템이 응답하는 시간, 특정 시간 내에 처리하는 업무량, 사용자 요구에 시스템이 반응하는
속도 등을 테스트
Ÿ 구조(Structure) 테스트
- 시스템의 내부 논리 경로, 소스코드의 복잡도를 평가하는 테스트
Ÿ 회귀(Regression) 테스트
- 변경 또는 수정된 코드에 대하여 새로운 결함 발견 여부를 평가하는 테스트
Ÿ 병행(Parallel) 테스트
- 변경된 시스템과 기존 시스템에 동일한 데이터를 입력 후 결과를 비교하는 테스트

 

⑸ 테스트 종류
① 명세 기반 테스트
Ÿ 주어진 명세를 빠짐없이 테스트 케이스로 구현하고 있는지 확인하는 테스트
Ÿ 동등 분할, 경계 값 분석, 유한상태 기계기반, 결정 테이블, 정형명세 기반, 유스케이스, 페어와이즈, 직교배열
테스트 등
② 구조 기반 테스트
Ÿ 소프트웨어 내부 논리 흐름에 따라 테스트 케이스를 작성하고 확인하는 테스트
Ÿ 구문 기반, 결정 기반, 조건 기반, 조건결정 기반, 변경조건 결정 기반, 멀티조건 기반 커버리지 테스트 등
③ 경험 기반 테스트
Ÿ 유사 소프트웨어나 유사 기술 평가에서 테스터의 경험을 토대로 한, 직관과 기술 능력을 기반으로 수행하는
테스트

5. 테스트 커버리지
⑴ 테스트 커버리지의 개념
Ÿ 주어진 테스트 케이스에 의해 수행되는 소프트웨어의 테스트 범위를 측정하는 테스트 품질 측정 기준
Ÿ 테스트의 정확성과
신뢰성을 향상시키는 역할
Ÿ 테스트를 얼마나 수행했는지 측정하는 기준

⑵ 테스트 커버리지 유형
① 기능 기반 커버리지
Ÿ 테스트 대상 애플리케이션의 전체 기능을 모수로 설정하고, 실제 테스트가 수행된 기능의 수를 측정하는 방법
Ÿ 기능 기반 테스트 커버리지는 100% 달성을 목표로 하며, 일반적으로 UI가 많은 시스템의 경우 화면 수를
모수로 사용할 수도 있다.

② 라인 커버리지(Line Coverage)
Ÿ 애플리케이션 전체 소스 코드의 Line 수를 모수로 테스트 시나리오가 수행한 소스 코드의 Line 수를 측정하는
방법
Ÿ 단위 테스트에서는 이 라인 커버리지를 척도로 삼기도 한다.

③ 코드 커버리지(Code Coverage)
Ÿ 소프트웨어 테스트 충분성 지표 중 하나로 소스 코드의 구문, 조건, 결정 등의 구조 코드 자체가 얼마나
테스트되었는지를 측정하는 방법
Ÿ 구문 커버리지(Statement)
- 코드 구조 내의 모든 구문에 대해 한 번 이상 수행하는 테스트 커버리지를 말한다.

void func(int x) {
printf("start"); // 1번
if (x > 0) { // 2번
printf("process"); // 3번
}
printf("end"); // 4번
}
// x의 값이 -1일 때, 3번은 수행되지 않는다.

// 따라서 ( 3 / 4 ) * 100 = 75%
Ÿ 조건 커버리지(Condition)
- 결정 포인트 내의 모든 개별 조건식에 대해 수행하는 테스트 커버리지를 말한다.

void func(int x, int y) {
x > 0
y < 0
결정포인트
if( x > 0 && y < 0 ){
printf(“process”);
T
F
F
}
}
F
T
F
- 개별 조건식이 각각, True와 False 만 만족하면 된다.

- 개별 조건식의 T/F 는 커버되지만 전체 결정포인트의 T/F는 보장 받지 못한다.

- 조건 커버리지를 만족하기 위해서는 ( x=10, y=10 ), ( x=-1, y=-1 )을 넣으면 만족한다.

Ÿ 결정 커버리지(Decision)
- 결정 포인트 내의 모든 분기문에 대해 수행하는 테스트 커버리지를 말한다.

void func(int x, int y) {
x > 0
y < 0
결정포인트
if( x > 0 && y < 0 ){
printf(“process”);
T
T
T
}
}
T
F
F
- 결정포인트가 각각, True와 False 만 만족하면 된다.

- 개별 조건식에서 오류가 있는 경우 찾지 못할 수 있다.

Ÿ 조건/결정 커버리지(Condition/Decision)
- 결정포인트 T/F, 개별조건식 T/F를 가져야 한다.

x > 0
y < 0
결정포인트
T
T
T
F
F
F
Ÿ 변경 조건/결정 커버리지(Modified Condition, Decision)
- 모든 결정 포인트 내의 개별 조건식은 적어도 한번 T, F를 가져야 한다.

- 이론적으로 가장 안전한 조합이며 케이스도 줄일 수 있다.

x > 0
y < 0
결정포인트
T
F
F
F
T
F
T
T
T
Ÿ 다중 조건 커버리지(Multiple Condition)
- 결정 포인트 내 모든 개별 조건식의 가능한 조합을 100% 보장해야 한다.

x > 0
y < 0
결정포인트
T
T
T
T
F
F
F
T
F
F
F
F