earticle

영어

This study proposes a systematic framework for defining and evaluating the quality attributes necessary for medical AI systems to gain trust and be practically used. Based on the ISO/IEC 25010 international standard for software quality, four key quality characteristics— functional suitability, time efficiency, usability, and interpretability—were selected. Quantitative and qualitative metrics were designed to assess these attributes. Furthermore, an explainable AI technique using SHAP was integrated into the prediction system to visually present the basis of predictions and enhance user trust. Experimental results showed a prediction accuracy of 91.2%, interpretation agreement rate of 82%, and user satisfaction score of 4.5, demonstrating a system that satisfies both quality and explainability requirements. This study is expected to provide a foundation for future SaMD certification and clinical application of medical AI systems.

한국어

본 연구는 의료 분야에서의 인공지능 시스템이 신뢰받고 실제로 사용되기 위해 필요한 품질 요소를 정의하고, 이를 평가할 수 있는 체계적인 프레임워크를 제시한다. 국제 표준 ISO/IEC 25010의 소프트웨어 품질 모델을 기반으로 기능 적합성, 시간 효율성, 사용성, 해석 가능성 등 네 가지 핵심 품질 특성을 선정하였으며, 이들을 정량 적·정성적으로 평가할 수 있는 지표를 설계하였다. 또한 SHAP 기반 설명 가능 인공지능 기법을 예측 시스템에 통합함으로써, 예측 근거를 시각적으로 제공하고 사용자 신뢰도를 향상시켰다. 실험 결과, 예측 정확도 91.2%, 해 석 일치율 82%, 사용자 만족도 4.5점을 기록하며 품질과 해석 가능성을 동시에 충족하는 시스템을 구현하였다. 본 연구는 향후 의료 인공지능의 SaMD 인증과 실질적 임상 적용을 위한 기반을 제공할 수 있을 것으로 기대된다.