GPU에 내장된 행렬 연산에 특화된 코어를 사용한 인공 신경망의 가속

Abstract

인공 신경망은 컴퓨터 비전, 음성인식, 번역 등 다양한 분야에서 적용되어 우수한 성능으로 학계 및 산업계에서 큰 주목을 받고 있다. 향후 인공지능은 자율주행차, 드론, 스마트 팩토리 등 다양한 분야에 적용될 것으로 예상되며, 이를 위한 전용 하드웨어 개발의 연구가 활발하게 진행되고 있다. 이러한 전용 하드웨어 중 GPU 내부에 행렬 연산에 특화된 하드웨어를 포함하는 연구가 주목을 받고 있으며, 제품이 출시되어 사용되고 있다. GPU 내부의 행렬 연산에 특화된 하드웨어를 사용한 인공 신경망의 가속은, 기존 GPU 내부의 연산 장치를 사용한 가속 방법에 비해 적은 전력 소모로 더 빠르게 가속 가능하다. 본 논문에서는 이러한 하드웨어 중 하나인 텐서 코어를 사용하여 인공 신경망을 가속하고, GPU 내부의 연산장치를 사용한 가속 방법과의 성능, 효율을 비교하였다.