관계 추출을 위한 자가 적응형 그래프 컨볼루션 네트워크

Abstract

관계 추출 작업은 문장에서 개체 쌍 간에 관계를 추론하는 작업이다. 최근에는 그래프 컨볼루션 네트워크들이 디펜던시 트리 정보를 활용하여 관계 추출에서 높은 성능을 보여왔다. 그러나 그래프 상의 인접한 단어만을 이용하기 때문에 다양한 단어를 폭 넓게 반영하기가 어렵다. 또한 디펜던시 트리를 만드는 디펜던시 파서에 의해 성능이 영향을 많이 받는다. 본 논문에서는 이러한 어려움을 극복하기 위해서 BERT를 통하여 적절한 디펜던시 관계를 학습하고, 이를 기반으로 관계 추출을 하는 네트워크를 제안한다. 이 기법을 적용하여 TACRED 데이터 세트에서 70.5%으로 기존 모델을 능가하는 F1 스코어를 얻을 수 있었다. 또한 BERT(Bidirectional Encoder Representations from Transformers)를 통해 다중 작업 학습을 하여 외부의 자연어 처리 시스템의 의존 없이 디펜던시 트리, 품사 태깅, 개체명 인식 정보를 사용할 수 있다.