earticle

영어

This study aims to investigate how users' perceptions of AI financial recommendation systems affect their perceived decision autonomy and subsequent trust in the system. Drawing on self-determination theory (SDT), we propose that when users recognize system characteristics as transparent, explainable, fair, and secure, their sense of autonomy is enhanced, ultimately fostering stronger trust toward the AI system. Furthermore, we also verified the role of perceived authenticity. To empirically test the research model, we conducted a survey and analyzed the data using structural equation modeling (SEM). The results show that all four system characteristics—transparency, explainability, fairness, and data security— have a significant positive effect on users’ perceived decision autonomy. Perceived autonomy significantly influences users' trust in the AI financial recommendation system and perceived authenticity enhanced user’s trust toward AI system. These findings offer theoretical insights into the psychological mechanisms underpinning trust formation in AI systems and highlight the practical importance of designing AI services that support user autonomy.

한국어

본 연구의 목적은 AI 금융 추천 시스템에 대한 사용자의 인식이 인지된 자율성 및 AI 시스템에 대한 신뢰에 어떠한 영향을 미치는지 규명하는 것이다. 자기 결정 이론(SDT)을 기반으로, 사용자가 시스템 특성을 투명하고 설명력이 높고, 공정하며 안전하다고 인식할 때 자율성이 향상되어 결과적으로 AI 시스템에 대한 신뢰가 높아짐을 제안하였다. 또한, 시스템 보안의 측면에서 보안 인증에 대한 인식의 역할도 검증하였다. 가설을 검증하기 위해 설문 조사를 실시하고 구조 방정식 모델링(SEM)을 사용하여 데이터를 분석했다. 연구 결과에 의하면 투명성, 설명력, 공정성, 데이터 보안성의 네 가지 시스템 특성 모두 사용자의 자율성 인식에 긍정적인 영향을 미치는 것으로 나타났다. 자율성 인식은 AI 금융 추천 시스템에 대한 신뢰에 영향을 미치며, 보안 인증 인식은 AI 시스템에 대한 신뢰를 강화하는 것으로 나타났다. 본 연구의 결과는 AI 추천 시스템에서 신뢰가 형성되는 심리적 메커니즘에 대한 이론적 통찰을 제공하며, 사용자의 자율성을 지원하는 AI 서비스 설계의 중요성을 강조한다.