earticle

영어

Open RAN(O-RAN) is emerging as a key enabler for 6G mobile networks, offering flexibility, cost efficiency, and vendor diversity. However, its openness and virtualization also expand the attack surface, introducing new security challenges. While existing studies have focused on partial enhancements such as interface protection or anomaly detection, end-to-end threat analysis and an integrated defense framework remain limited. This paper systematically classifies security threats in O-RAN across control plane, data plane, and hardware/firmware domains. Identified threats include RIC disruption by malicious xApps, DoS attacks via compromised O-CUs, firmware extraction from O-RUs, data leakage through malicious CUs, and control message manipulation by rogue UEs. To address these threats, we propose a four-layer security framework for O-RAN security threats: (1) telemetry collection, (2) preprocessing and normalization, (3) anomaly detection using AI/ML, and (4) policy feedback and enforcement. The framework ensures continuous monitoring, adaptive detection, and dynamic policy control, effectively mitigating identified threats. This study contributes to advancing secure 6G O-RAN by bridging the research gap between fragmented security solutions and holistic protection.

한국어

5G에서 6G 네트워크로의 전환 과정에서 Open RAN(O-RAN)은 비용 절감, 벤더 다양성, 상호운용성을 제공하는 핵심 기술 로 주목받고 있다. 그러나 기존 폐쇄형 RAN과 달리 O-RAN은 개방성과 가상화 특성이 있으므로 공격 표면이 확대되고 새로 운 보안 위협이 발생한다. 기존 연구는 인터페이스 암호화, 인증 기법, 이상 탐지 모델 등 부분적인 보안 강화 방안에 집중되어 있으며, 통합적인 관점에서 위협을 종합적으로 분석하고 통합적인 대응 방안을 제시한 연구는 부족한 상황이다. 이에 본 논문은 O-RAN 보안 위협을 제어 평면, 데이터 평면, 하드웨어와 펌웨어 영역으로 구분하여 체계적으로 분석한다. 주요 위협 으로는 악성 xApp에 의한 RIC 교란, 악성 O-CU를 통한 DoS 및 데이터 유출, O-RU 펌웨어 탈취, 악성 단말의 제어 메시지 변조 등이 있다. 이러한 위협에 대응하기 위해 본 논문에서는 O-RAN 보안 위협에 대응 가능한 4계층 보안 프레임워크를 제 안한다. 해당 프레임워크는 (1) 텔레메트리 수집, (2) 전처리 및 정규화, (3) AI/ML 기반 이상 탐지, (4) 정책 피드백 및 제어 계층으로 구성되며, 보안 위협 별로 방어 전략을 수립하여 개방형 이동통신 환경에서 지속적인 보안 대응을 가능하게 한다. 본 연구는 O-RAN 보안 위협의 구조적 분류와 다 계층 대응 모델을 제시함으로써 기존의 단편적인 접근의 한계를 극복하고, 향후 6G O-RAN의 안전한 도입에 기여할 수 있다.