earticle

영어

The use of large language models (LLMs) is rapidly increasing, and prompt injection and jailbreak attacks are emerging as critical security threats. However, existing studies are predominantly English-centric and research specialized for Korean remains limited. To investigate linguistic vulnerabilities of LLMs, this study compares the attack success rate (ASR) of prompts written in English, plain Korean and honorific Korean. We conduct roleplay, parameter-manipulation, and MAC GCG attacks against both general-purpose and Korean-specialized LLMs. Experimental results show that, across the three attack types and three models, the average ASR for English and plain Korean is approximately 1.5%, while honorific Korean reaches about 2.0%. In particular, under roleplay attacks, the English–Llama combination records an ASR of 19.23%, and the honorific-Korean–kanana combination reaches 10.26%, revealing double-digit vulnerabilities for specific language–model pairs. These findings quantitatively de‘monstrate the security weaknesses of general-purpose LLMs in multilingual settings and suggest that honorific Korean can function as a new vector for bypassing safety alignment. By introducing sociolinguistic factors into LLM security analysis, this study refines safety evaluation criteria for multilingual LLMs and provides empirical evidence to strengthen the security of Korean-language models.

한국어

대규모 언어 모델(LLM)의 활용이 증가하며 Prompt Injection 기법을 악용한 Jailbreak 위협이 대두되고 있다. 그러나, 관련 연구는 영어 중심으로 한국어 특화 연구는 미진하다. 이에 본 연구는 LLM의 언어적 취약점을 탐구하고자, 영어, 한국어 평어 체 그리고 한국어 경어체로 작성된 공격의 성공률(ASR)을 비교 분석하였다. 범용 및 한국어 특화 LLM을 대상으로 Roleplay, Parameter 조작, MAC GCG 공격을 수행하였다. 실험 결과, 세 공격 유형과 세 모델 전반의 평균 ASR은 영어와 한국어 평어 체가 각각 약 1.5%, 한국어 경어체가 약 2.0% 수준이었으며, 특히 Roleplay 공격에서는 영어-Llama 조합이 19.23%, 한국어 경 어체-kanana 조합이 10.26%까지 상승하는 등 특정 언어-모델 조합에서 두 자릿수 취약성이 관찰되었다. 이러한 결과는 범용 LLM의 다국어 환경에서의 보안 취약성을 정량적으로 보여준다. 나아가, 경어체 사용이 LLM의 안전 기준 정렬을 우회하는 새로운 취약점으로 작용할 수 있음을 시사한다. 본 연구는 LLM 보안 분석에 사회언어학적 요소를 도입함으로써 다국어 LLM 의 안전성 검증 기준을 심화하고, 한국어 모델의 보안 강화를 위한 실증적 근거를 제공하는 데 기여할 것이다.