국방품질연구회(DQS)가 전하는 품질 인사이트

DQS 매거진

국방품질경영 정보공유 항목, 델파이로 제안하다.

2025. 02. 24

글. 국방기술품질원 기동화력4팀 윤준호 연구원

현대의 국방 시스템은 복잡하게 변화하는 환경에서 효율적이고 안전한 운영을 보장하기 위해 고도의 품질경영이 필요하다. 특히, 품질관련 정보는 국방 분야에서의 의사결정에 중요한 역할을 하며, 이를 공유하고 활용하는 시스템은 매우 중요하다. 그러나 국방품질경영에 대한 정보공유는 종종 단편적이고 비효율적으로 이루어지는 경우가 많다. 이에, 본 기고는 델파이 기법을 활용하여 품질 관련 전문가들의 의견을 종합하고, 이를 기반으로 국방품질경영 정보공유 항목을 제안하고자 한다.

정보공유 항목의 필요성

기업 환경 변화에 대응하고 품질경영체계 확립을 위해 대부분의 업체는 국제표준화기구가 제정한 ISO9001(품질경영시스템) 인증을 취득한다. 군수품의 경우에는 국방기술품질원(이하 기품원)의 국방품질경영체제 인증을 통해 군수품의 특수성을 보완한다. 중소기업의 경우에는 이러한 인증 취득 과정 중 직원의 이해와 참여부족 문제, 전문인력 부족에 따라 담당 직원 업무 과중으로 ISO9001 인증만 받고 체계적인 관리가 수행되지 않는 방식으로 업무가 추진된다. 따라서 국방품질경영체제 인증 취득 및 갱신은 더욱 어려 체계적인 품질관리가 쉽지 않다.

기품원에서 2022년도에 수행한 서비스품질 분석을 통해 2017년도 이후 변화한 만족도를 분석했다[1]. 분석한 논문에서는 Timko가 제시한 고객만족계수를 산출하여 고객의 만족 수준과 불만족 수준을 파악하고 고객만족계수를 이용하여 잠재적 고객만족개선지수를 계산했다. 이를 바탕으로 대기업, 중기업뿐만 아니라 100인 미만 소기업을 대상으로 규모별로 분석한 국방 서비스품질에 관한 연구도 진행되었다. 대부분의 서비스품질 요소가 17년도에 비해 22년도의 고객만족계수 및 고객만족개선지수가 낮게 형성됨을 확인할 수 있다. 고객만족계수 및 고객만족개선지수에 따른 규모별 우선 개선 순위를 분석한 결과 상호소통 기회의 충분성이 중요 요소 중 하나로 판단되었다. 업체와의 상호소통을 위해 기품원에서는 업체를 초청하여 매년 진행하는 품질소통간담회를 개최하지만 이러한 방식만으로는 불충분하다고 판단할 수 있다. 따라서 국방 서비스품질 제공 시 일반적인 통보보다 규정을 벗어나지 않는 선의 정보공유 항목을 개발하여 상호 간 활발한 소통을 할 수 있는 플랫폼이 필요하다.

정보공유 항목 분류

상호소통을 위한 정보공유 항목개발을 위해서 6시그마의 품질변동의 원인인 5M1E(Man, Machine, Material, Method, Measurement, Environment)로 요인을 분류하여 개발했다. 기품원 군수품 품질경영 기본규정 제22조(프로세스 검토)에 따르면 제품 또는 서비스를 만들어 내기 위한 투입한 요소(5M1E)를 사용하여 상호 관련된 활동의 집합에 대해 적절성, 충족성 및 효과성을 확인할 수 있다. 따라서 기품원과 업체간의 상호소통에 필요한 항목은 군수품을 생산하기 위해 투입된 5M1E를 통해 발생한다고 판단할 수 있다. 표 1에서 해당 요인을 정리하였다.

표 2에서는 5M1E에 분류되는 항목으로는 품질보증활동 시 발생하는 정보들을 기반으로 항목들을 개발한 후 델파이기법을 통해 구조화하였다.

요인 정의
인력 투입인력에 대한 적절성
측정 측정시스템의 신뢰성 확보 및 유지관리 여부 확인
방법 대상공정의 적절성과 유지관리 여부 확인
설비 설비/장비에 대한 유지관리 적정여부
재료 주요자재의 점검기준 및 방법에 대한 관리
환경 해당공정 내에 선정된 환경 요구 조건의 유지관리 여부 확인

표 1. 5M1E 정의

요인 세부항목
인력 (1) 인력 현황
(2) 기업 품질경영시스템 현황
측정 (3) 검사 포인트(Q-Point)
(4) 상대물과 결합조건
(5) 창정비 요소개발 시 수립된 검사항목
(6) 전자결합의 방해요소
방법 (7) 실험방법 및 절차
(8) 시험 관련 참고문헌
(9) 공정능력지수
(10) 품질방침
설비 (11) 검사, 시험장비의 규격과 용량
(12) 시험 관련 위탁 기관, 업체
(13) 측정설비 신뢰성 현황
재료 (14) 체계장비에서의 제품의 역할 및 부착 위치
(15) 자재의 단종 사실 및 대체품 공급처
(16) 특수재질 수급 시 특이사항
(17) 제품의 지식재산권 현황
(18) 국산화 개발현황
(19) 소프트웨어 개발현황
(20) 하드웨어 개발 이력
(21) 품질 이슈 이력
환경 (22) 특수한 환경시험 가능 기관
(23) 환경조건에 민감한 품목에 대한 시험조건
(24) 업체 전문 품목, 분야 정보
(25) 제품별 업체 실적

표 2. 정보공유 항목

정보공유 항목 개발

델파이 기법은 불완전한 지식을 다루기 위해 전문가들의 의견을 종합하여 집단적 판단을 내리는 것으로 복합적인 문제를 효과적으로 취급하는 방법이다[2]. 델파이 기법은 3회 이상에 걸쳐 조사가 이루어지며 1회에서는 해결하고자 하는 연구문제에 해당하는 분야의 전문가를 선정하여 개방형 혹은 반개방형 질문을 통해 조사가 이루어진다. 2회에서는 1회의 설문 수집 결과를 구조화하여 폐쇄형 질문들을 다시 만들고 1회 반응의 피드백을 통해 설문의 각 항목 내용의 중요성 혹은 적합성에 대하여 리커트 척도로 측정이 이루어진다. 3회에서는 2회의 평균과 표준편차를 산출하여, 2회 반응의 피드백을 통해 반응을 재고할 기회를 제공하는 것을 목적으로 한다. 4회 이후로는 앞서의 설문에 대한 피드백 작업의 반복이며, 의견이 어느 정도 일치할 때까지 설문을 반복하기도 한다. 본 기고에서는 국방품질경영 정보공유 항목 개발과 적절성 검증을 위해 군수품 분야에서 품질 관련 경력이 10년 이상인 전문가 30인을 대상으로 델파이 기법을 적용하였다. 델파이 기법은 전문가 집단 선정이 중요하기에 적절성, 전문적 지식 능력, 설문 응답의 성실성을 고려하였다. 전문가 30인의 구성원으로 기품원, 국방기술진흥연구소, 군수품 계약업체에 재직 중인 전문가로 구성되었다.

델파이 1차 설문 조사결과로 반개방형 설문지를 통해 국방품질경영 정보공유 항목의 적절성에 대한 설문결과를 취합한 뒤 유사 항목끼리 통합 분류하여 세부항목을 구성하였다. 개방형 설문 내용으로는 “정보공유 항목과 관련하여 제거하고 싶은 항목과 추가하고 싶은 항목을 적어주시기 바랍니다.”로 설정했다. 폐쇄형 설문 내용으로는 6개 영역 25항목의 적절성을 리커트 5점 척도로 구성하여 매우 적절하지 않다(1점)부터 매우 적절하다(5점)로 평가를 구성했다. 그 결과 개방형 응답 중 (13) 측정설비 신뢰성 현황 항목 제거에 대한 응답에 따라 6개 영역 24항목으로 구성하였다.

델파이 2차 설문 조사결과로 폐쇄형 설문 조사를 통해 세부항목들의 적절성을 5M1E 영역별 분석 지표를 추출했다. 2차 설문 조사는 1차 조사결과를 토대로 구성한 6개 영역 24항목의 적절성을 1차 조사결과인 항목별 평균값과 표준편차를 참고하여 폐쇄형 설문형태로 조사했다. 6개 영역에서 켄달의 W 검증을 한 결과, 각 항목은 p<0.05에서 통계적으로 유의한 것으로 나타났다.

델파이 3차 설문 조사는 2차 설문 조사결과의 항목별 평균과 표준편차를 제시했으며 해당 항목들에 대해 재고할 기회를 제공했다. 2차 및 3차 설문 조사의 분석 방법으로는 켄달의 W 검증을 적용하여 전문가들의 의견 일치 정도를 비교분석했다. 6개 영역에서 켄달의 W 검증을 한 결과 2차에 비해 인력, 재료 영역의 항목은 W값이 감소한 것으로 확인되었고, 나머지 4개 영역에서는 W값이 증가한 것으로 확인되어 전문가들의 의견 합치도가 2개 영역에서는 감소, 4개 영역에서는 높아진 것을 알 수 있다. 3차 조사결과 또한 각 항목은 p<0.05에서 통계적으로 유의한 것으로 나타났다.

마지막으로 최종 분석 및 속성 정제를 통해 평균과 표준편차, 켄달의 W 검증을 통해 적절성을 판단하여 정보공유 항목을 선정했다. 켄달의 W 검증은 각 설문 항목별 응답에 대한 응답자들의 합의 정도를 객관적으로 분석할 수 있다. 이는 응답자들의 순위 매김에 일치성이 있는지를 보는 지표이다[3]. 0 ≦ W ≦ 1이 성립하며 1에 가까울수록 일치 정도는 높아져 W = 1일 때 완전히 일치하는 것으로 본다. 조사결과의 통계처리는 Minitab 21과 Excel을 사용하여 평균값, 표준편차, W 검증을 산출하였으며, 3차에 걸친 델파이 조사 기간은 3개월간 진행하였다. 3차 델파이 설문 조사를 토대로 각 문항의 적절성을 분석하여 적절성이 떨어지는 항목을 제거하는 방법으로 최종 정보공유 항목을 도출했다. 문항 제거방법으로는 적절성 수준 5점 척도를 100%로 전환한 선형공식(3.1)을 적용하여 환산하였다[4]. 환산된 적절성 확률을 평균이 35% 이하인 경우에만 적절성을 인정하고 그 외의 항목을 제거하는 형태로 최종 정보공유 항목을 선정하였다.

Y=-22.75X+118.5
(X:Likerttype, Y:%)
(1=93.00%, 2=73.25%, 3=50.50%, 4=27.75%, 5=5.00%)

(3.1)

최종 24개 항목 중 7개를 제거하고 표3과 같이 5개 영역 17개 항목을 최종 정보공유항목으로 도출하였으며, 전체 항목에 대해 켄달의 W 검증을 통해 유의성을 분석해보았다. 분석한 결과 각 항목은 p<0.05에서 통계적으로 유의한 것으로 나타났다. 정제된 항목 7항목을 살펴보면 인력 영역 (1) 인력 현황, (2) 기업 품질경영시스템 현황 둘 다 제거되었음을 확인할 수 있다. 방법 영역에서는 (9) 공정능력지수, (10) 품질방침 등 두 가지 항목이 제거되었다. 재료 영역에서는 (16) 특수재질 수급 시 특이사항 항목이 제거되었다. 환경 영역에서는 (24) 업체 전문 품목, 분야 정보, (25) 제품별 업체 실적이 제거되었음을 확인할 수 있다. 확정된 정보공유 항목을 살펴보면 측정 영역의 2. 상대물과 결합조건이 가장 높은 우선 순위를 보였고 이어서 재료 영역의 9. 체계장비에서의 제품의 역할 및 부착 위치, 측정 영역의 1. 검사 포인트(Q-Point) 순으로 나타났다.

요인 순번 세부항목 평균 표준편차 켄달 W검증
측정 1 검사 포인트(Q-Point) 4.13 0.92 N=30
W=0.098
X2=47.097
DF=16
P=0.0001
2 상대물과 결합조건 4.40 0.71
3 창정비 요소개발 시 수립된 검사항목 3.93 0.81
4 전자결합의 방해요소 3.80 0.98
방법 5 실험방법 및 절차 4.00 0.82
6 시험 관련 참고문헌 3.93 0.85
설비 7 검사, 시험장비의 규격과 용량 4.10 0.70
8 시험 관련 위탁 기관, 업체 3.70 0.59
재료 9 체계장비에서의 제품의 역할 및 부착 위치 4.23 0.76
10 자재의 단종 사실 및 대체품 공급처 3.77 1.12
11 제품의 지식재산권 현황 3.93 0.89
12 국산화 개발현황 3.83 0.82
13 소프트웨어 개발현황 3.73 0.73
14 하드웨어 개발 이력 3.83 0.82
15 품질 이슈 이력 3.80 0.91
환경 16 특수한 환경시험 가능 기관 3.77 1.17
17 환경조건에 민감한 품목에 대한 시험조건 3.90 0.87

표 3. 델파이 기법으로 도출한 최종 국방품질경영 정보공유 항목

결론

국방 서비스품질 향상을 위한 상호소통의 필요성은 더는 선택이 아닌 필수이다. 본 기고에서 제안한 정보공유 항목들은 군수품 품질 향상뿐만 아니라, 국방의 미래를 위한 중요한 첫걸음이다. 30명의 전문가가 심도 있게 검토한 델파이 기법을 통해 도출된 17개의 핵심 항목은 단순한 개선책을 넘어, 군수품의 품질과 신뢰성을 담보할 혁신적인 시스템 구축의 기초가 될 것이다.

이 시스템은 군수업체와 기품원, 나아가 사용자(軍) 간의 진정한 협업을 가능하게 하며, 그 결과 축적된 품질 데이터는 군수품 전순기 품질관리의 패러다임을 바꿀 것입니다. 또한, 신규 계약업체들에는 리스크 관리라는 또 다른 기회를 제공, 국방 서비스품질의 새로운 차원을 열어갈 수 있을 것이다.

이제 우리가 마주한 과제는, 이 제안된 시스템이 실제로 구축 및 현장에서 실행되고, 이를 통해 군수품의 품질이 더욱 신뢰받는 기준이 되는 것이다. 향후 이 시스템의 구현은 군수품 제조업체들에 필수적인 자원 관리 도구로 자리 잡을 것이며, 결국 이는 국가 안보와 직결된 중요한 혁신이 될 것이다.

참고문헌
  • 1. Y. W. Nam, D. H. Ko, H. M. Kim and K. W. Lee, "Analysis of Defence Service Quality using PCSI Index and an Empirical Comparative Analysis - Focusing on Small Businesses less than 100 Employees." Journal of the Korean society for Quality Management, 51(1), pp. 37-54, 2023.
  • 2. S. Y. Rho, "Delphi Technique: Predicting the Future with Professional Insights." PLANNING AND POLICY, pp. 53-62, 2006.
  • 3. M. G. Kendall and B. B. Smith, “The Problem of m Rankings,” The Annals of Mathematical Statistics, 10(3), pp. 275–287, 1939.
  • 4. J. W. Choi, B. H. Jun, and J. Y. Choi, "Developing evaluation criteria for quality management systems adoption by using delphi technique," Journal of the Korea Society of Digital Industry and Information Management, 12(2), pp. 87-102, 2016.