순환 신경망 기반 시퀀스 투 시퀀스 학습을 이용한 대화 응답 생성

Abstract

최근 대화형 에이전트의 잇따른 등장으로 주목을 받고 있는 대화 시스템은 작업의 특정 여부에 따라 작업지향 대화 시스템과 비 작업지향 대화 시스템으로 구분할 수 있다. 이 중 챗봇으로 대표되는 비 작업지향 대화 시스템은 작업이 특정되거나 대화 형식이 제한되지 않아 사용자와 다양한 주제의 대화를 진행할 수 있다. 하지만 대화의 문맥을 파악하고 그에 적절한 응답을 출력해야 되기 때문에 작업지향 대화 시스템보다 어려운 문제로 평가받고 있다. 본 연구는 순환 신경망 기반 인코더-디코더를 이용해 대화를 구성하는 발화들 사이의 변환 확률을 학습해 대화 모델을 만들고, 입력된 대화의 문맥에 적절한 응답을 생성하는 문제를 다룬다. 그리고 미리 학습된 단어 임베딩을 이용해 단어들의 의미적 관계를 강화하고, 선행발화들 전체가 후행발화로 변환되는 확률을 구해 전체적인 대화의 문맥을 고려한 응답을 생성하고, 모델 파라미터를 분석하여 최적의 값을 찾아 응답의 품질을 향상시키는 방법을 제시한다. 이어서 응답의 품질을 측정하는 정량적, 정성적 평가 기준을 제안한다. 직접 구축한 트위터 대화 말뭉치를 이용해 본 연구에서 제안한 방법들의 유효성을 검증한 결과, 생성된 응답에 대한 평가가 향상되었다. 그리고 미리 정의된 후보 응답 중 응답을 추천하는 대화 모델과 응답의 품질을 비교한 결과, 본 연구에서 제안한 모델의 응답이 대화에 더 적절하고 선호도 또한 높았다.