인간은 자유의지를 갖고 있기 때문에 존엄한 존재이며, 자신의 행동에 대해서 책임을 진다. 인간의 뇌와 인공지능은 외부에서 입력된 정보를 처리하고 이를 출력하는 정보처리시스템이라는 공통점을 갖는다. 인간과 인공지능의 관계에 관한 논의는 법적으로도 중요한 의미를 갖는다. 인공지능에게 법인격을 인정할 필요가 있다는 주장이나 인공지능도 인간과 마찬가지로 책임을 부담하도록 할 필요가 있다는 주장들도 등장하고 있기 때문이다. 만약 인공지능이 인간과 마찬가지로 자유의지를 갖는다면, 그러한 인공지능을 장착한 로봇을 인간과 달리 취급할 이유도 없다. 인공지능도 자유의지를 가질 수 있는지 여부를 살펴보기 위해서는 먼저 자유의지의 개념을 정의할 필요가 있다. 자유의지는 자유와 의지로 구분해 볼 수 있다. 자유란 물리적 원인으로부터 자유롭다는 것을 의미하지만 자유의 개념을 이와 같이 정의하는 경우에 뇌가 물리법칙의 지배를 받는 점을 설명할 수 없다. 따라서 자유란 원인을 알 수 없으며 예측할 수 없다는 것으로 정의할 수 있다. 현실적으로 원인이 존재하지 않는다는 것과 원인을 알 수 없다는 것은 구분할 수 없기 때문이다. 이러한 관점에서 인간의 뇌는 자유롭다. 뇌의 판단의 원인을 물리적으로 규명할 수는 없기 때문이다. 의지는 동기를 갖고 어떠한 목적을 실현하기 위한 심적 상태를 의미한다. 여기서 동기는 욕구나 두려움, 즉 쾌락의 추구나 고통의 회피를 의미한다. 그런데 욕구는 생존이나 종족번식과 직접적으로 관련된 1차적 욕구와 호기심이나 명예욕, 물질욕과 같은 2차적 욕구로 구분해 볼 수 있다. 이 중에서 2차적 욕구가 의지와 관련되어 있다. 따라서 의지에서 말하는 동기는 2차적 욕구를 의미한다. 인공지능의 자유의지를 인정하기 위해서는 인공지능의 정보처리가 자유로워야 하고, 2차적 욕구를 갖고 있어야 한다. 인공지능의 정보처리시스템은 그 원리를 명확히 규명할 수 없다. 즉 인공지능의 출력값의 원인을 규명할 수는 없다. 따라서 인공지능의 정보처리는 인간의 뇌와 마찬가지로 자유롭다고 할 수 있다. 다만 인간의 고차원적인 사고를 할 수 있기 때문에 인간의 뇌의 활동을 예측하는 것은 더욱 어렵다. 인공지능이 상위인지(metacognition)에 바탕을 둔 고차원적인 사고를 할 수 있는지 여부는 불확실하다. 고차원적 사고는 사회적인 관계를 전제로 하기 때문이다. 만약 인공지능의 고차원적 사고가 불가능하다면 인공지능은 인간보다 자유롭지 못하다. 인공지능이 의지를 갖기 위해서는 먼저 욕구나 두려움을 가져야 한다. 그런데 욕구나 두려움은 인간에게 동기(motivation)가 되지만, 그러한 동기가 뇌의 정보처리에 어떠한 방식으로 작용하는지 확실하게 규명되지는 않았다. 따라서 욕구나 두려움과 같은 동기를 알고리즘으로 실현하기 위해서는 먼저 인간의 뇌의 비밀을 풀어야 한다. 그리고 뇌의 비밀을 풀더라도 이를 알고리즘으로 만들 수 있는지 여부가 다시 문제될 수밖에 없다. 뇌의 비밀을 푼다는 것은 결국 생명의 시작에 관한 비밀을 푼다는 것을 의미한다. 이러한 점들을 고려한다면 인공지능이 의지를 갖기는 어렵다. 결과적으로 인공지능은 인간보다 낮은 수준이더라도 자유롭지만 의지를 갖기는 어렵기 때문에 인공지능의 자유의지를 인정할 수는 없다.

Human beings have dignity and are responsible for their actions because they have free will. The human brain and artificial intelligence have in common that they are information processing systems that process the information from outside and output the result. The relationship between humans and AI is legally important, as there are views that artificial intelligence needs to be recognized as a legal entity and that artificial intelligence needs to be held accountable for its action just like humans. If artificial intelligence has free will, there is no reason to treat AI differently from humans. In order to examine whether AI can have free will, it is necessary to define the concept of free will. Free will can be divided into freedom and will. Freedom means being free from physical causes, but the definition of freedom in this way cannot explain the fact that the brain is governed by the laws of physics. To avoid this inconsistency, freedom can be defined as unpredictability and the unknownness of causes. In reality, we can not distinguish the unknownness of causes from nonexistence of causes. In this respect, the human brain is free, because the causes of the brain's judgment can not be physically identified. Will means a mental state that is motivated to achieve a certain purpose. Motivation means desire and dread, or the pursuit of pleasure and the avoidance of pain. The desire can be divided into first order desire which is directly related to survival or reproduction and second order desire such as curiosity, desire of power, and the pursuit of wealth. Among these two types of desire, only the second order desire is related to the will. In order to recognize the free will of AI, the information processing of AI should be unpredictable and AI should have second order desires. It is impossible to determine the cause of the AI ​​output value. Therefore, information processing of AI is as free as the human brain. However, the activity of the human brain is more difficult to predict than AI because metacognition and self-awareness, or high level awareness is the key attributes of human mind. It is unclear whether high-level awareness of AI based on metacognition is possible. If high-level thinking of AI is impossible, AI is less free than humans. In order for AI to have a will, it must have desire or dread. While desire and dread are motivations for humans, it is not clear how these motivations are working in the brain's information processing. Therefore, in order to make the algorithm of motivations such as desire and dread, we must first reveal the secrets of the human brain. Unlocking the secrets of the brain eventually means unlocking the secret of the beginning of life, which seems to be difficult in the near future. Even if we reveal the secrets of the brain, it is not certain that the algorithm of motivation can be technically developed. Considering these points, it is difficult for AI to have a will. As a result, AI cannot have free will because it has a lower level of freedom than humans, and it is difficult to have will.

, , , , , , , , , ,

Artificial intelligence, Free will, Information processing system, Emergence, complex system, Motivation-decision model, Desire, machine learning, Deep learning