earticle

영어

This paper proposes a hybrid analysis framework that automates the two core components of Return-Oriented Programming (ROP) attacks—gadget discovery and payload construction—in Intel SGX Enclave environments. Previous studies have largely relied on manual processes for selecting and assembling gadgets, which is not only time-consuming but also leads to poor reproducibility and scalability issues when applied to large binaries. In this research, we design a pipeline-based framework that integrates a static analysis tool (ROPgadget) with a semantics-based synthesis tool (ROPium), allowing an ROP analyst to input operation instructions as a template and automatically perform gadget discovery, mapping, and synthesis. Through validation experiments using various open-source SGX project enclave binaries—including Asylo, Graphene-SGX, mbedTLS-SGX, and Mystikos—the framework was able to generate functionally valid ROP payloads within practical time (average of 105.83 seconds). These results confirm that the proposed framework achieves significant time reduction and high reproducibility in SGX enclave ROP payload generation compared to manual payload construction approaches.

한국어

본 논문은 Intel SGX Enclave 환경에서 Return-Oriented Programming(ROP) 공격 기법의 핵심 요소인 가젯(gadget) 탐색 과 페이로드(payload) 생성을 자동화하는 하이브리드 분석 프레임워크를 제안한다. 기존 연구들은 대부분 수작업 기반으로 가 젯을 선별·조합하여 페이로드를 도출하므로 시간이 오래 걸리고, 도출된 페이로드의 재현성이 낮으며, 대규모 바이너리에는 적용이 어려웠다. 본 연구는 정적 분석 도구(ROPgadget)와 의미론적 합성 도구(ROPium)를 연계한 파이프라인 기반 프레임워 크를 설계하여, ROP 검증자가 연산 명령을 템플릿으로 입력하면 자동으로 가젯을 탐색·매핑·합성할 수 있도록 하였다. Asylo, Graphene-SGX, mbedTLS-SGX, Mystikos 등 다양한 공개 SGX 프로젝트 Enclave 바이너리들을 대상으로 한 검증 실험을 통해 평균 105.83초 이내의 실용 시간에서 연산 유효한 ROP 페이로드 생성을 확인하였다. 이를 통해 수작업 기반 페이로드 생성 대비 현저한 시간 단축과 높은 재현성을 갖춘 SGX Enclave ROP 페이로드 자동 생성이 가능함을 보였다.