earticle

영어

Amid the growing use of AI chatbots in recent years, unethical language, such as hate language, is becoming more common during interactions with chatbots. This study examined the persuasive effect of the different levels of anthropomorphism on intention to stop using hate language toward a chatbot and continuous chatbot use intention in an unethical situation. In addition, this study explored the mediating effect of psychological reactance. The study also tested the moderating and moderated mediating effects of a social norm message in the association between anthropomorphism and intention to stop using hate language and continuous chatbot use intention. A 2 (anthropomorphism level: low vs. high) × 2 (social norm message: social norm vs. non-social norm) between-subjects design was utilized in an online experiment. A total of 280 participants were randomly assigned to one of the four conditions. The results demonstrated a non-significant direct effect of anthropomorphism on intention to stop using hate language toward the AI chatbot. The direct effect of anthropomorphism level on continuous chatbot use intention was significant. In addition, as for the mediating effects of psychological reactance, anger mediated only the association between anthropomorphism and continuous chatbot use intention. In contrast, negative cognition mediated the associations between anthropomorphism and both intention to stop using hate language toward the chatbot and continuous chatbot use intention. Finally, social norm message did not moderate the mediating effect of psychological reactance. The implications and limitations of the study findings were discussed.

한국어

최근 인공지능 챗봇 사용이 보편화되면서 챗봇과의 상호작용 과정에서 차별 발언과 같은 비윤리적 언어 사용이 빈번하게 나타나고 있다. 본 연구는 인공지능 챗봇 이용자 가 챗봇에 장애인 차별 발언을 하는 비윤리적 상황에서 챗봇 의인화 수준에 따른 설득 효과를 살펴보았다. 이와 함께 인공지능 챗봇 의인화의 결과로 나타나는 심리적 반발의 매개효과를 살펴보았다. 또한 인공지능 챗봇이 제시하는 사회규범 메시지에 따라 설득 효과가 어떻게 변화를 보이는지를 살펴보고자 사회규범 메시지의 조절효과와 조절된 매개효과를 검증하였다. 본 연구는 2 (의인화: 높음 vs. 낮음) × 2 (사회규범: 사회규범 메시지 vs. 비규범 메시지) 개체 간 요인 실험 설계를 바탕으로 온라인 실험을 진행하 였으며, 실험 참여자(N = 280)는 무작위로 네 가지 조건 중 하나에 배치되었다. 연구 결과, 의인화 수준이 장애인 차별 발언 중단의도에 미치는 직접 효과는 유의하지 않았 으나 인공지능 챗봇 지속이용의도에 미치는 직접 효과는 유의했다. 심리적 반발의 매개 효과의 경우, 분노는 챗봇 지속이용의도만을 매개하였으며, 부정적 인지는 차별 발언 중단의도와 챗봇 지속이용의도를 모두 매개하였다. 사회규범 메시지 유무의 조절효과와 조절된 매개효과는 유의하지 않은 것으로 나타났다. 결론에서는 이러한 분석 결과를 바탕으로 본 연구의 함의와 한계점을 논의하였다.