earticle

영어

The most significant weakness of AI technology is the lack of explainability of the results obtained by AI. The technology that has emerged to compensate for this weakness of traditional AI is eXplainable AI (XAI). XAI is attracting great attention in applications where the reliability of inference results is important, such as healthcare, defense, law, and has recently been judged to be indispensable for military applications. The U.S. Defense Advanced Research Projects Agency (DARPA) is actively promoting the application of XAI in the military field by operating the XAI Program, in which 11 universities and research institutes such as UC Berkeley and Carnegie Mellon University participate, but in the case of the Korean military, research on XAI development is underdeveloped due to the focus on developing AI capabilities. In this paper, we also examine the concept and methodology of XAI and propose a method for applying XAI technology that can be applied to AI technology for each battlefield functions. The concept and recent technology of XAI are summarized, and the concept of XAI operation and application scenario of AI that is expected to be applied to the weapon system for each battlefield function is presented.

한국어

AI 기술이 가진 가장 대표적인 취약점은 AI가 도출한 결과에 대한 설명가능함(Explainable)의 부족이다. 이런 전통적인 AI의 취약점을 보완하기 위해 등장한 기술이 ‘설명가능한 AI(eXplainable AI, XAI)로 XAI는 의료, 국방, 법과 질서 등과 같 은 추론결과의 신뢰성이 중요한 응용 분야에서 큰 관심을 끌고 있으며, 특히 최근 군사 응용 AI에 있어서는 필수 불가결한 요소로 판단되고 있다. 미 국방연구원(DARPA)의 경우 UC Berkeley, Carnegie Mellon University 등 11개의 대학 및 연 구소가 참여하는 XAI Program을 운용하며 군사 분야의 XAI 적용을 적극적으로 추진하고 있지만, 우리 군의 경우 AI 기능 개발에 집중하는 상황으로 XAI 개발에 관한 연구는 미진한 상황이다. 특히, 민간에서 개발된 다양한 XAI 기술을 군사적 어 떻게 접목하고 응용할 것인가에 대한 개념과 시나리오가 부족한 실정이다. 이에 본 논문에서는 군사적 XAI(Military-XAI, MXAI)의 개념과 방법론을 살펴보고 감시정찰, 지휘통제, 기동, 화력 등 전장기능별 AI 기술에 적용할 수 있는 XAI 기술적용 시나리오를 제시하여 산학연에서 향후 MXAI를 연구할 때 통찰과 이정표를 제시하고자 하였다.