earticle

영어

The moral decision-making abilities in AI is necessary. Robots with the ability to make moral judgments on its own is called AMA. In this paper I research that in certain circumstances AMA can be seen as real moral agents. For this, I will suggest four approaches when it comes to establishing an ethics for the AMA. First, the top-down approach makes use of the traditional ethical theories such as utilitarian or deontological theories. The role of the ethical theory in this approach is to provide the AMA with rules to follow in morally complex situations. Second, the bottom-up approach follows the central ideas proposed by developing various machine-learning methods for the AMA to learn ethical reasoning without giving it any available rules at hand. The basic idea for this approach is to regard the AMA as a human child who has the potential of obtaining moral reasoning as the child grows up according to proper developmental stages of morality. Third, the hybrid approach is an attempt to unite the top-down and the bottom-up approaches. Fourth, I argue that emotions, intuitions, and feelings are very important for AMA to be truly ethical. From a neuroscientific perspective and moral psychology, moral emotions have a scientific basis worthy of consideration. After all, I wish to provide some direction for AMA by outlining the value and limitations inherent in each of these approaches.

한국어

본 연구의 목적은 인공적 도덕 행위자의 개발에 있어서 도덕철학적·도덕심리학적 성찰을 제공하는 것이다. 도덕적 인공지능의 개발이 제기하는 도덕성 문제가 무엇인지를 밝혀냄과 동시에 도덕적 인공지능의 개발과정에서 제기되는 여러 문제들을 성찰해 보고자 하는 것이다. 우선 전통적인 공리주의나 의무론적 윤리이론에 기반을 둔 하향식 접근, 발달적·발전적·진화적 접근을 추구하는 상향식 접근, 그리고 이 두 접근을 융합하려는 혼합식 접근을 살펴보았다. 또한 도덕적 정서를 고려하는 접근이 보완적으로 왜 필요한지를 살피고자 하였다. 특별히 최근의 신경과학이나 도덕심리학적 입장은 이성과 사고하는 능력 중심의기존 관점에서 벗어나 감정이나 직관의 중요성을 더욱 강조하는 경향성을 가지기에 이성과 직관·정서의 상호보완적 접근을 추구하는 AMA의 도덕성 구축이 필요함을 제시하였다. 여러 접근에서 모두 한계점과 문제점을 가지고 있지만 이것을 도덕철학적으로 또 도덕심리학·신경과학·신경윤리학적으로 살펴봄으로써 반성적 성찰을 제공하고자 하였다.