earticle

영어

This study recognizes the increasing risk of misinformation (fake news) diffusion driven by the rapid advancement of generative artificial intelligence (AI) technologies and aims to establish a foundation for preventing the spread of such misinformation. Specifically, it empirically examines the structural relationships among source credibility, digital information literacy, and product familiarity, and their effects on trust in misinformation and word-of-mouth (WOM) intention. A survey was conducted using a scenario in which generative AI provided misinformation about a fictitious “antibiotic coffee” product. The collected data were analyzed using structural equation modeling (SEM) to test the causal relationships among the variables. The results indicate that three out of four hypotheses were supported. The key findings are as follows. First, source credibility exerted the strongest positive effect on trust in generative AI–provided information. This suggests that when misinformation impersonates authoritative or professional institutions, information users are at high risk of accepting it uncritically. Second, digital information literacy had a significant negative effect on trust in generative AI information, demonstrating that higher literacy activates critical thinking and functions as a defensive mechanism by reducing blind trust in online information. Third, trust in information showed a very strong positive effect on WOM intention, indicating that when consumers fail to recognize misinformation and perceive it as credible, they are highly likely to disseminate it to others. Contrary to expectations, product familiarity had a positive effect on information trust (rejected hypothesis), which is attributed to the unique characteristics of the fictitious product used in the scenario. This study empirically elucidates the psychological pathways through which misinformation spreads in a generative AI environment and highlights the manipulation of information sources as the most critical risk factor in the diffusion of AI-generated misinformation.

한국어

본 연구는 생성형 인공지능(AI) 기술의 발전으로 심화되는 거짓 정보(가짜뉴스) 확산의 위험성을 인식 하고, 거짓 정보 확산을 예방하기 위한 기반을 마련하고자 한다. 구체적으로, 거짓 정보에 대한 신뢰 및 구전 의도(WOM)에 영향을 미치는 정보원천 신뢰도, 디지털정보 문해력, 제품 친숙도 간의 구조적 관계를 실증적으로 검증하는 것을 목적으로 한다. 가상의 Antibiotic 커피제품에 대한 생성형 AI 제공 거짓 정보 시나리오를 바탕으로 설문조사를 실시하였으며, 수집된 데이터를 활용하여 구조방정식 모형 (SEM) 분석을 통해 변수 간의 인과관계를 검증하였다. 분석 결과, 네 가지 가설 중 세 가지가 지지되 었으며 핵심 결과는 다음과 같다. 정보원천 신뢰도는 생성형 AI 정보 신뢰에 가장 강력한 양(+)의 영향 을 미치는 것으로 나타났다. 이는 거짓 정보가 관련 전문기관 등 권위 있는 출처를 사칭할 경우, 정보 이용자들이 이를 맹목적으로 신뢰하는 위험성을 초래함을 시사한다. 디지털정보 문해력은 생성형 AI 정보 신뢰에 유의한 음(-)의 영향을 미쳤다. 이는 문해력이 높을수록 온라인 정보에 대한 비판적 사고 가 활성화되어 정보를 비판적으로 수용하고 신뢰를 낮추는 방어 기제로 작용함을 입증한다. 정보에 대 한 신뢰는 구전 의도에 매우 강력한 긍정적 영향을 미치는 것으로 확인되었다. 이는 소비자가 거짓 정 보임을 인지하지 못하고 신뢰할 경우, 해당 정보를 타인에게 구전할 위험성이 매우 높음을 시사한다. 제품 친숙도는 예상과 달리 정보 신뢰에 긍정적 영향을 미쳤으며(기각 가설), 이는 시나리오 제품의 특 수성(가상 제품)에 기인한 것으로 판단된다. 본 연구는 생성형 AI 환경에서 거짓 정보가 확산되는 심리 적 경로를 실증적으로 규명했으며, 특히 정보원천의 조작이 가장 위험한 요소임을 밝혔다.