The Influencing Factors of Trust in Human-like Agents

Abstract

Various interactive intelligent agents have begun to appear in everyday lives, through smartphones and home appliances. In the present study, we used the Wizard of Oz methodology to explore potential factors that influence users perception and trust of intelligent agents. We used a smart speaker as a representative of AI agents and investigated how personality traits of a user, voice pitch and interactive style of the agent affected perception and trust of AI agent. In study 1, we manipulated voice pitch of a smart speaker and users had a small talk with the speaker, asking it to do scheduling and making reservations, playing a word chain game, and asking for a weather forecast. In study 2, we used the same task as study 1, but manipulated the interaction style (active vs. passive) of the smart speaker. Higher voice pitch was perceived more positively than lower voice pitch, and higher voice pitch led to increased trust. The interaction style such that whether smart speaker initiated the conversation did not affect perception of AI agent or the trust. In terms of the personality trait of a user, the honesty-humility factor of HEXACO personality inventory influenced trust in the AI agent. The results revealed that human-like qualities (e.g. having intelligence, being nice) positively impact trust in the AI agents and how users interact with them. The present study can be used to improve design of AI agents in daily life through understanding factors influencing trust in human-AI interaction.

인공지능의 발달은 단순한 알고리즘을 따라 움직이는 것을 넘어 사회적 에이전트의 등장으로 이어졌다. 스마트폰과 가전기기에 대화를 통한 상호작용이 가능한 인공지능 비서가 심어져 일상에서 흔히 사용되고 있다. 사용자들은 인공지능을 사람과 같이 대하는 경향이 있다. 따라서, 기술의 발달과 더불어 사람들이 인공지능 에이전트와 어떻게 상호작용하는지에 대한 연구의 필요성이 대두되고 있다. 본 연구는 오즈의 마법사 방법론을 사용하여 인공지능 에이전트와의 상호작용에서 신뢰에 영향을 미치는 요인을 탐구하고자 하였다. AI (Artificial Intelligence) 스피커를 인공지능 에이전트의 대표로 선정하여 이를 통해 연구를 진행하였다. 실험1에서는 목소리의 음고저 (pitch)를 다양하게 하여 인공지능에 대한 인식과 신뢰도에 미치는 영향을 살펴보았다. 실험에서 사용된 상호작용 과제는 일상적인 수다, 일정 관리 및 예약, 끝말잇기, 그리고 일기예보로 이루어져있었다. 사람들은 인공지능의 목소리가 낮을 때보다 높을 때 더욱 긍적적으로 인식하였고, 신뢰도 또한 목소리가 높아질수록 낮아지는 성향을 보였다. 그러나 경제적인 상황에서의 신뢰도는 목소리가 낮을수록 더욱 신뢰도가 높아지는 경향이 있었다. 실험2에서는 실험1과 같은 과제를 사용하여 상호작용 방법 (능동적 vs. 수동적)과 사용자의 성격특성이 인공지능에 대한 인식과 신뢰도에 미치는 영향을 살펴보았다. 먼저 말을 걸어주는 인공지능 (능동적 조건)에 비해 질문을 해야 대답을 하는 인공지능 (수동적 조건)이 더욱 긍정적으로 인식되었으나 신뢰도는 더욱 높게 나타났다. 경제적인 상황에서도 능동적인 인공지능이 수동적인 인공지능보다 더욱 신뢰된다는 결과가 나타났다. 사용자의 성격은 정직/겸손 요인이 경제적 신뢰도에 유의미한 부적상관을 보이는 것으로 나타났다. 실험1과 실험2 모두에서 인공지능에 대한 인식은 신뢰도에 매개효과를 가지는 것으로 나타났다. 본 실험은 인공지능에 대한 인식과 신뢰도에 영향을 미치는 요인을 알아봄으로써 사람과 인공지능과의 상호작용에 대한 이해를 증진하고, 인공지능과 로봇 연구에서의 사회과학적 접근의 가치를 제시한다는 의의를 갖는다.