earticle

영어

This study proposes an explainable artificial intelligence (XAI) method to enhance the reliability and interpretability of AI-based intrusion detection systems (IDS) in a complex cybercrime environment driven by advances in network technology. We introduce a Combined Heatmap technique that integrates Grad-CAM++ and Occlusion Map to visualize the network traffic patterns detected by a CNN model. The method is evaluated using the UNSW-NB15 dataset, where the model is trained on 10 key features normalized via Min-Max scaling. Experimental results demonstrate that the Combined Heatmap approach significantly improves detection performance and interpretability, achieving high accuracy and precision compared to conventional methods. These findings clarify the underlying decision process of the AI-based IDS and enhance its trustworthiness for investigative purposes. Future work will focus on validating the approach with diverse network attack types and extending its application to real-time detection systems.

한국어

본 연구는 네트워크 기술 발전으로 복잡해진 사이버범죄 환경에서, AI 기반 침입 탐지 시스템의 신뢰성과 해석 가능성을 향상시키기 위한 설명 가능한 AI(XAI) 기법을 제안한다. Grad-CAM++과 Occlusion Map을 결합한 Combined Heatmap을 도입하여, UNSW-NB15 데이터셋을 이용해 CNN 모델을 학습·평가하고, 모델이 탐지한 네트 워크 트래픽 패턴과 주요 Feature의 역할을 시각화하였다. 실험 결과, 제안 기법이 기존 기법보다 탐지 성능과 해석 가능성을 크게 개선하여 높은 정확도와 정밀도를 달성함을 확인하였으며, 이를 통해 AI 기반 IDS의 탐지 근거를 명확히 하고 수사 과정에서의 활용성을 높일 수 있음을 제시한다. 향후 연구에서는 다양한 네트워크 공격 유형 및 실시간 시스 템 적용에 관한 연구로 확장할 예정이다.