earticle

영어

With the widespread adoption of Large Language Models (LLMs), novel security threats such as prompt injection and data exfiltration are rapidly increasing. To effectively counter these attacks, which are difficult to predict and respond to with existing defense systems, this study aims to systematically analyze the behavioral characteristics of LLM-based attacks and propose a new security framework based on the findings. To this end, real-world attack cases from January 2023 to June 2025 were collected and decomposed into 'Atomic Units.' Subsequently, each action was precisely mapped to the MITRE ATT&CK framework to structure the core Tactics, Techniques, and Procedures (TTPs) of the attacks. The analysis identified key attack patterns, including the use of AI as an 'auxiliary tool' in the attack preparation phase and patterns that directly exploit the vulnerabilities of the LLM itself. The attack pattern analysis and framework presented in this study hold academic and practical significance by providing foundational data for establishing proactive defense strategies at both the industrial and national levels against increasingly sophisticated LLM threats.

한국어

대규모 언어모델(LLM)의 활용이 보편화됨에 따라, 프롬프트 인젝션(Prompt Injection), 데이터 탈취 등 이를 악용한 신종 보안 위협이 급증하고 있다. 기존의 방어 체계로는 예측 및 대응이 어 려운 이러한 공격들에 효과적으로 대처하기 위해, 본 연구는 LLM 기반 공격의 행위적 특성을 체 계적으로 분석하고 이를 기반으로 새로운 보안 프레임워크를 제안하는 것을 목적으로 한다. 이 를 위해, 2023년 1월부터 2025년 6월까지 공개된 실제 공격 사례들을 수집하여 ‘단일 행위 (Atomic Unit)’ 단위로 분해하였다. 이후, 각 행위를 MITRE ATT&CK 프레임워크에 매핑하여 공격 의 핵심 전술, 기술, 절차를 구조화하였다. 분석 결과, 공격자가 AI를 공격 준비 단계의 '보조 도 구'로 활용하는 패턴과 LLM 자체의 취약점을 직접 공격하는 패턴 등 핵심적인 공격 유형을 도출 할 수 있었다. 본 연구가 제시하는 공격 패턴 분석 및 프레임워크는 날로 지능화되는 LLM 위협 에 대한 산업 방어 전략 수립에 중요한 기초 자료를 제공한다는 점에서 의의를 갖는다.