earticle

영어

This study aims to analyze the causes behind the proliferation of fake news and misinformation in a hyperconnected society where social networking services (SNS) have become mainstream and the boundaries between truth and falsehood, as well as reality and virtuality, are increasingly blurred. Specifically, it examines how, based on the operation of the Hype Machine, AI algorithms manipulate human emotions and social networks to generate and disseminate fake news and information, thereby reducing the public to mere consumer machines and digital marketers. The key findings of this study are as follows. First, generative AI facilitates the easy production of language, images, and videos that are difficult to distinguish from reality, resulting in the mass reproduction of hyper-reality without guaranteed authenticity. At the same time, social bots manipulate emotions and shape public opinion through automated processes. Second, the Hype Machine, driven by AI algorithms, selectively curates content and manipulates the flow of information based on user data and emotional states, thereby leading the creation and diffusion of fake information through an optimized feedback loop. Third, the Hype Machine operates through four driving forces—economic interests, AI algorithms, social norms, and government regulation—with economic interests playing a particularly crucial role by enabling AI-based psychological profiling to facilitate personalized persuasion and trend formation. In conclusion, the creationdiffusion loop of fake news driven by the Hype Machine undermines social authenticity, infringes upon individual independent thinking and judgment, and fosters irrational consumer culture, thereby posing challenges to the formation of healthy social relationships within social media platforms.

한국어

본 연구는 사회적 관계망 서비스(SNS)가 대중화된 초연결 사회에서 진실과 허구, 현실과 가상의 경계가 해체되어 가짜 뉴스 및 정보가 만연되고 있는 원인을 생성형 AI(GenAI)과 하이프 머신(Hype machine)의 작동방식을 통해 분석하고자 한다. 특히, 하이프 머신을 기반으로 AI 알고리즘이 어떻게 인간의 감정과 사회적 관계망을 조작하 여 가짜 정보 및 뉴스를 생성 및 확산시키며, 대중을 소비 기계이자 디지털 마케터로 전 락시키고 있는지를 논의한다. 본 연구의 핵심 결과는 다음 세 가지이다. 첫째, 생성형 AI는 실제와 구별하기 어려운 언어, 이미지, 영상을 쉽게 제작하게 하여 진실성 담보가 어려운 초실재성을 양산하고, 소셜 봇은 자동화된 방식으로 감정을 조작하고 여론을 형성하고 있다. 둘째, 하이프 머신은 AI 알고리즘을 기반으로 사용자 데이터와 감정 상 태에 따라 콘텐츠를 선별하고 정보 흐름을 조작하여 최적화된 피드백 루프를 통해 가 짜 정보의 생성과 확산을 주도한다. 셋째, 하이프 머신은 경제적 이익, AI 알고리즘, 사 회적 규범, 정부 규제라는 네 가지 동력에 의해 움직이며, 특히 경제적 이익을 위해 AI 기반 심리 프로파일링을 통한 맞춤형 설득과 트렌드 생성을 이끌어간다. 결론적으로 하이프 머신에 의해 구동되는 가짜 뉴스의 생성-확산 루프는 사회적 진실성 훼손, 개인 의 독립적 사고 및 판단 침해, 비합리적 소비 문화 확산 등을 유발함으로써, 소셜 미디 어 플랫폼 속에서의 건전한 사회적 관계성 형성에 영향을 미칠 수 있다는 것이다.