earticle

영어

AI systems cause distortion and bias in training data and, as a result, are vulnerable to making partial or prejudiced decisions. In research for AMA implementation, the issue that should be prioritized over securing technical and scientific programming design is the philosophical and neuroscientific understanding of morality. Whether AI will create moral personalities as diverse as humans, or whether it will reflect the best of human morality, is up to researchers. AMA production technologists should consider data describing the role of both reasoning and emotional intelligence in moral decision-making. This requires combining insights from moral philosophy, psychology, and neuroethics on specific moral factors, such as mutual altruism and fairness. In addition, a review of intuition and experience is required in moral judgment. This study tried to discuss the considerations for designing a moral judgment algorithm based on an understanding of morality in neuroscience. To achieve this purpose, the differences between computer decision-making and human judgment have been reviewed using moral judgment algorithms. Ultimately, it is necessary to pursue a symbiosis between computational AI and the intuitive human brain.

한국어

인공지능 시스템은 왜곡과 학습 데이터의 편견 부족을 유발하기 때 문에 윤리적으로 매우 불완전하고 취약할 수 있다. AMA 구현을 위한 연구 분야에서 기술적, 과학적 프로그래밍 설계 가능성 확보보다 우선 되어야 할 문제는 도덕성에 대한 철학적, 신경과학적 이해이다. AI에 인간만큼의 다양한 도덕적 인격을 장착할지, 아니면 최고의 인간 도덕 성을 반영할지도 연구자에게 남겨진 AI의 향후 과제라고 할 수 있다. AMA 설계 및 생산 기술자는 도덕적 의사결정에서 감성 컴퓨팅과 정서지능의 역할을 설명하는 데이터를 감안해야 한다. 이를 위해서는 상 호 이타주의 및 공정성과 같은 특정 도덕 요소에 대한 도덕철학, 심리 학, 신경윤리학 등의 통찰을 확인할 필요가 있다. 또한 도덕판단에서 직관과 경험에 대한 분석도 요구된다. 본 연구에서는 신경과학에서의 도덕성에 대한 이해를 바탕으로 도덕판단 알고리즘 설계를 위해 고려 할 사항들을 논의하고자 했다. 이러한 목적을 달성하기 위해 컴퓨터의 의사결정과 인간 판단의 차이, 신경과학에서 도덕성 이해, 도덕판단 알고리즘 구현에서 검토할 논점에 대해 살펴보았다. 궁극적으로 ‘계산적 AI’와 ‘직관적 인간 뇌’의 공생을 추구할 필요가 있다.