컨볼루션 신경망의 병렬화 성능향상을 위한 OpenCL 기반 워크그룹 스케줄링 기법

Abstract

최근 OpenCL 과 같은 병렬 연산 프레임워크를 사용해 GPU 에서 컨볼루션 신경망 (CNN, Convolutional Neural Network)의 처리 성능을 높이는 연구가 활발히 이뤄지고 있다. 하지만 일반적인 컨볼루션 구조에 존재하는 불규칙적인 Input feature map 의 조합은 그룹 단위의 스레드 스케줄링을 통해 메모리 접근 오버헤드를 최소화하는 GPU 의 HW 구조에 적합하지 않다. 본 논문은 GPU 에서 OpenCL 워크그룹 (Work-group) 단위의 스케줄링 기법에 적합한 규칙적인 컨볼루션 신경망 연산 구조를 제안한다. 제안하는 구조를 글자 인식 벤치마크인 LeNet-5 에 적용한 결과 최대 37.26 배의 성능 향상과 26.4 배의 전력소모 개선 효과를 얻을 수 있었다.