earticle

영어

Nick Bostrom is concerned that the “existential risks” of the modern world are also increasing with technological advances. He particularly emphasizes the dangers of superintelligence. Max Tegmark is also working on threats to artificial intelligence. Their AI discourse depends on the speculative imagination and scenarios of science fiction (SF). The apocalyptic narrative of AI is part of a posthuman culture in which the boundary between scientific fact and fictional imagination has become meaningless. This interaction and intersection between science and fiction can be captured with the terms “science/fiction” and “scientifictive texts.” Expectations, optimism, anxiety, and fear about AI are greatly influenced by the dramatic narratives of popular sci-fi. It is highly likely that real-world AI technologies and scenarios will be misled by interesting stories rather than rational reasoning. Due to these “narrative biases,” the actual scenario for AI is highly dependent on SF and at the same time requires a skeptical view. The technological singularity proposed by SF writer Vernor Vinge has prospered the SF subgenre called singularity SF. Furthermore, the singularity has had a great impact on technology and industry, as well as academics and education, as in the case of Ray Kurzweil. Modern technoscience and myth coexist in this discourse. High-tech companies can also be seen as followers of the singularity. AI and singularity narratives operate within the logic of money and power, as well as technological and cultural contexts. Singularity narratives can leave you indifferent to the real problems of AI, so critical analysis is required.

한국어

닉 보스트롬은 기술 발전에 따라 현대 세계의 ‘실존적 위험’(existential risks) 역시 커지고 있다고 우려한다. 그는 특히 슈퍼인텔리전스(초지능)의 위험을 강조한다. 맥스 테그마크 또한 인공지능에 대한 위협을 연구하고 있다. 이들의 인공지능 담론은 SF의 사변적 상상력과 시나리오에 의존한다. 인공지능의 (종말론적) 서사는 과학적 사실과 허구적 상상의 경계가 무의미하게 된 포스트휴먼 문화(posthuman culture)의 일부다. 이같은 과학과 허구의 상호작용과 상호교차를 ‘과학/소설’(science/fiction)와 ‘과학허구적 텍스트’(scientifictive texts)라는 용어로 포착할 수 있다. 인공지능에 대한 기대와 낙관, 불안과 공포는 대중적 SF의 극적인 서사에 많은 영향을 받는다. 현실의 인공지능 기술과 시나리오가 합리적 추론 보다는 흥미로운 이야기에 의해 오도될 가능성이 높다. 이러한 ‘서사적 편견’ 탓에 인공지능에 대한 실제 시나리오는 SF에 매우 의존적이면서도 동시에 회의적인 시선이 요구된다. SF 작가 버너 빈지가 제안한 기술적 특이점은 특이점 SF라는 SF 하위장르를 번성시켰다. 나아가 특이점은 레이 커즈와일의 사례처럼 기술과 산업, 학문과 교육에도 큰 영향을 미쳤다. 특이점 담론에는 현대 과학기술과 신화가 공존한다. 하이테크 기업들도 특이점의 추종자로 볼 수 있다. 인공지능과 특이점 서사는 기술과 문화적 맥락뿐 아니라 돈과 힘의 논리 속에서 작동하는 것이다. 특이점 서사는 인공지능의 현실적인 문제들에 무관심하게 할 수 있으므로 비판적 분석이 요구된다.