계층 구조 Attention 기반 순환 신경망을 이용한 발화 의도 분류 성능 개선

Abstract

대화 시스템에 있어, 발화의 의도를 예측하는 것은 중요한 역할을 한다. 본 논문에서는 발화 의도 예측을 위한 계층 구조 Attention 기반 순환 신경망을 제안한다. 제안하는 모델은 단어 단계의 인식기와 발화 단계의 인식기로 이루어진 계층 구조를 가진다. 각 단계의 인식기에서, Attention 메커니즘을 통해 발화 의도 예측에 중요한 역할을 하는 단어와 문장에 집중한다. 우리가 제안하는 모델은 두 가지의 이점을 갖는다. 첫째, 이전 발화에서의 문맥 정보를 이용함으로써 현재 발화의 정보만 이용하는 것보다 의도를 예측함에 있어 높은 성능을 보인다. 둘째, 각 인식기의 Attention 메커니즘을 통해 의미 있는 단어와 문장에 집중함으로써 발화 의도 예측 성능을 높일 수 있다. 우리는 한국 영화 및 드라마 자막 데이터셋을 이용한 실험을 통해 제안한 모델의 성능을 평가하였다. 제안한 모델은 비교 모델들보다 정확도 및 F1-Score에 있어 높은 성능을 보인다. 실험의 결과를 통해, 우리는 제안한 모델이 발화 의도를 분류함에 있어 성능이 개선됨을 보였다.