초록 열기/닫기 버튼
설명가능한 인공지능(XAI, eXplainable Artificial Intelligence)은 기계학습 및 딥러닝(심층학습) 등의 인공지능이 학습한 최종 결과에 대해 인간이 이해할 수 있고, 설명 가능하도록 이유나 근거를 제시하는 기술이다. 인공지능의 태생적 한계점인 블랙박스(Black Box)는 불투명성과 복잡성을 증가시키며, 이를 보완하기 위한 방안으로 XAI가 제시되었다. 인공지능 기술의 내용과 효과를 명확히 이해하고, 자율성에 의존한 인공지능 산업이 아닌 구체적이고 실효적인 규범에 바탕을 둔 인공지능 체계 또는 XAI 체계가 필요한 시점이다. 또한 인공지능 시장의 건전성과 공익 보호를 위해 인공지능 기본법 또는 지능정보화 기본법 제정이 필요하며 인공지능 법안의 통일된 인공지능 법체계(법적 프레임워크)가 필요한 시점이다. 본 연구는 인공지능 백서와 인공지능법 제정안을 토대로 투명성(Transparency), 책임성(Accountability), 공정성(Fairness), 신뢰성(Reliability), 결과시연성(Result Demonstrability)의 5가지 XAI 기본원칙을 제안하였다. 본 연구에서 제시한 XAI 기본원칙은 인간 중심의 인공지능과 신뢰 가능한 인공지능 생태계 구축에 기여할 것으로 기대한다.
XAI (eXplainable Artificial Intelligence) is a technology that explains the process by which a result is created so that the user understands and correctly interprets the operation and final result of an artificial intelligence system. The Black Box, the limit of artificial intelligence, increases opacity and complexity, and XAI was proposed as a way to compensate for this. It is time to clearly understand the contents and effects of artificial intelligence technology and need an XAI system based on concrete and effective norms, not an artificial intelligence industry that relies on autonomy. In addition, it is time for a unified artificial intelligence legal system (legal framework) of artificial intelligence basic law and artificial intelligence legislation to protect the health of artificial intelligence market and public interest. Deep learning and reinforcement learning, which have recently been actively used in various industries, can make incomprehensible judgments, so consumers (users) do not understand the conclusions of the models, resulting in a problem of lack of trust. The ultimate goal of XAI is to create reliable artificial intelligence, and the understandability of the algorithm and the explainability of the output must be guaranteed. Based on the discussion above, this study proposed five basic principles of XAI: Transparency, Accountability, Fairness, Reliability, and Result Demonstrability based on the Artificial Intelligence White Paper and the Artificial Intelligence Act enactment. The basic principles of XAI presented in this study are expected to contribute to the establishment of human-centered artificial intelligence and a reliable artificial intelligence ecosystem.
