earticle

영어

With recent advances in AI, overcoming the limits of traditional NIDS has become crucial: signature-based or single deep learning models struggle with novel/zero-day attacks and fail to capture structural relations among flows. We propose a hybrid NIDS combining SAGEConv-GNN (local structure) and a Transformer Encoder (global context/long-range dependencies), integrated via Gated Fusion, with positional encoding, early stopping, label smoothing, and class weighting for stable training. On UNSW-NB15 (~50k flows), our model outperforms GCN, GAT, GraphSAGE, and Transformer baselines, achieving 99.70% Accuracy, 96.44% Precision, 99.08% Recall, and 97.2% F1. This demonstrates strong detection performance and low false positives in imbalanced settings, underscoring the practicality of AI-based hybrid NIDS.

한국어

최근 인공지능(AI) 기술의 발전으로 기존 침입 탐지 시스템(NIDS)의 한계를 극복하기 위한 연구가 활발히 이루어지고 있 다. 기존 서명 기반 또는 단일 딥러닝 모델은 새로운 공격 유형이나 제로데이 공격 탐지에 취약하며 네트워크 플로우 간 구조 적 관계를 충분히 반영하지 못한다. 이에 본 연구는 SAGEConv-GNN과 Transformer Encoder를 결합한 하이브리드 NIDS를 제안한다. GNN은 국부 구조 정보를, Transformer는 장기 의존성과 전역 문맥을 학습하며 Gated Fusion으로 이를 통합한다. 또 한 positional encoding, Early Stopping, label smoothing, class weight 등을 적용해 학습 안정성을 확보하였다. UNSW-NB15 (약 50,000 flows) 실험 결과 본 모델은 GCN, GAT, GraphSAGE, Transformer보다 우수했으며 Accuracy 99.70%, Precision 96.44%, Recall 99.08%, F1-score 97.2%를 달성했다. 이는 불균형 데이터 환경에서도 높은 탐지 성능과 낮은 오탐지율을 유지 함을 보이며 AI 기반 하이브리드 NIDS의 실용 가능성을 제시한다.