earticle

영어

As artificial intelligence (AI) technology rapidly develops and expands, its societal and economic effects also increase. However, issues of AI misuse, social dysfunction, and deepfakes have arisen, highlighting the need for developing trustworthy AI systems. While ethical standards for trustworthy AI have been proposed by major global institutions, the development of specific and applicable AI reliability audit criteria from a system perspective remains highly inadequate. This study aims to establish the concept of AI reliability and develop a framework and checklist for AI system development projects. Through a literature review, we identified five key attributes of AI reliability and proposed an AI system reliability audit framework consisting of three perspectives that can evaluate them. Furthermore, we developed an AI system reliability audit checklist based on the framework and evaluated its importance and applicability using the FGI analysis.

한국어

인공지능 기술이 급속한 발전과 도입 확장에 따라 사회‧경제적 파급효과도 증가하고 있다. 반 면, 챗봇 ‘이루다’, MIT의 ‘사이코패스 AI’, 딥페이크 등 인공지능의 오남용, 사회적 역기능 문제가 발생하며 신뢰 가능한 인공지능 시스템 개발의 필요성이 대두되고 있다. 이에, 세계 주요 기관에 서 발표한 ‘신뢰할 수 있는 인공지능을 위한 윤리기준’ 등을 기초로 인공지능 신뢰성 감리의 필요 성이 제시되고 있으나, 시스템 관점에서 구체적이고, 적용 가능한 인공지능 신뢰성 감리 기준 개 발은 현재 매우 미흡한 실정이다. 본 연구에서는 인공지능 신뢰성 개념의 확립과 함께 인공지능 시스템 개발 사업에 적용할 수 있는 프레임워크와 점검항목을 개발하고자 하였다. 기존 문헌분석을 통해 도출한 인공지능 신뢰 성에 대한 5개의 주요 속성과 이를 평가할 수 있는 3개의 인공지능 감리 관점으로 인공지능 시스템 신뢰성 감리 프레임워크를 구성하여 제시하였다. 또한, 인공지능 시스템 신뢰성 감리 프레 임워크에 기반한 인공지능 시스템 신뢰성 감리 점검항목을 개발하였다. 최종적으로 FGI 기법을 사용하여 개발한 점검항목에 대한 감리 중요도와 적용 가능성을 검토 및 평가하여 실효성을 검토하였다.