Effects of Apology and Empathy for Recovering from Trust Violations of Chatbots

Abstract

In the present study, we investigated how chatbots can recover user trust after making errors. In two experiments, participants had a conversation with a chatbot about their daily lives and personal goals. After giving an inadequate response to the users negative sentiments, the chatbot apologized using internal or external error attribution and various levels of empathy. Study 1 showed that the type of apology did not affect users trust or the chatbots perceived competence, warmth, or discomfort. Study 2 showed that short apologies increased trust and perceived competence of the chatbot compared to long apologies. In addition, apologies with internal attribution increased the perceived competence of the chatbot. The perceived comfort of the chatbot increased when apologies with internal attribution were longer as well as when apologies with external attribution were shorter. However, in both Study 1 and Study 2, the apology conditions did not significantly increase users trust or positively affect their perception of the chatbot in comparison to the no-apology condition. Our research provides practical guidelines for designing error recovery strategies for chatbots. The findings demonstrate that Human-Robot Interaction may require an approach to trust recovery that differs from Human-Human Interaction.

본 연구에서는 챗봇이 대화 중 오류가 있었을 때 사용자의 신뢰를 회복할 수 있는 방법에 대하여 탐색하였다. 두 번의 실험에서 참여자들은 일상생활과 자신의 목표에 관하여 챗봇과 대화를 나누었다. 챗봇은 참여자의 부정적 감정에 대해 부적절한 응답을 한 후, 공감 수준을 달리하며 내적 귀인 혹은 외적 귀인을 사용하여 사과했다. 연구 1에 따르면 사과의 종류는 사용자의 신뢰나 챗봇의 지각된 유능함, 따뜻함, 불편감에 유의미한 영향을 주지 않았다. 연구 2 결과 짧은 사과는 긴 사과보다 챗봇에 대한 사용자의 신뢰와 지각된 유능함을 더 크게 높였다. 또한, 내적 귀인을 사용하는 사과가 챗봇의 지각된 유능함을 더 크게 향상시켰다. 내적 귀인을 사용하는 사과의 경우 길이가 길 때, 외적 귀인을 사용하는 사과의 경우 길이가 짧을 때 사용자들에게 더 편안하게 느껴졌다. 그러나 연구 1과 연구 2 모두에서 사과 조건은 사용자의 신뢰를 유의미하게 증가시키거나 챗봇의 인식에 유의미하게 긍정적인 영향을 미치지 않았다. 본 연구는 챗봇 오류를 해결하기 위한 신뢰 회복 전략을 수립하기 위한 실용적인 지침을 제공한다. 또한, 본 연구 결과는 인간-로봇 상호작용에서 요구되는 신뢰 회복 전략은 인간-인간 상호 작용에서 사용되는 전략과는 상이할 수 있음을 보여준다.