earticle

영어

If the moral language of a computer is indistinguisgable from that of a human, does it have the same morality as the human? Strong AMA gives a positive answer to this question. This article attempts to examine strong AMA by a parodied version of the Chinese room argumentㅡthe morality room argument. The morality room argument claims that merely running an appropriate algorithm does not enable computers to literally make moral judgments as humans. To show this point, this article presents the thesis of strong AMA and highlights how it is directly tied to the currently accepted levels of AMA. After illustrating the parallels between strong AMA and strong AI, I will present the morality room argument. Some of the typical replies to the Chinese room argument are considered, and it turns out that none of them is conclusive against the Chinese room argument and the morality room argument as well. If the morality argument is valid, the morality of humans and that of AMA should be distinguished, and the essential difference between them should be found in the neuropsychology of human morality.

한국어

기계가 구사하는 도덕적 언어가 인간과 식별 불가능하다면, 그 기계는 인간과 같은 도덕성을 가지는 것일까? 강한 인공도덕행위자(strong AMA)는 이 질문에 대해 긍정적으로 대답한다. 본 논문은 중국어 방 논변을 변형한 도덕의 방 논변을 통해 강한 AMA를 비판적으로 고찰해보고자 한다. 도덕의 방 논변에 따르면, 컴퓨터가 단지 적절한 알고리즘을 실행한다고 해서 문자 그대로 인간과 같은 도덕적 판단을 하게 되지는 않는다. 이를 보이기 위해 본 논문에서는 우선 강한 AMA를 정식화한 뒤 그것이 현재 통용되는 AMA의 단계와 직결되는지를 보일 것이다. 다음으로 강한 AMA과 강한 인공지능(strong AI) 사이의 유사성을 보인 뒤, 중국어 방 논변을 패러디한 도덕의 방 논변을 제시할 것이다. 또한 중국어 방 논변과 관련된 대표적 반론들을 살펴보고 이들이 중국어 방 논변은 물론 도덕의 방 논변에도 결정적인 반론이 되지 못함을 보일 것이다. 마지막으로 도덕의 방 논변이 함축하는 바를 알아본다. 도덕의 방 논변이 타당하다면, 인간의 도덕성과 AMA의 도덕성은 구별될 수 있으며, 둘의 차이는 인간 도덕성의 신경심리학에서 찾아져야 할 것이다.