딥러닝 모델의 압축 방법에 따른 엣지 장치에서의성능 평가 연구
DC Field | Value | Language |
---|---|---|
dc.contributor.author | 정은성 | - |
dc.contributor.author | 최진욱 | - |
dc.contributor.author | 최수혁 | - |
dc.date.accessioned | 2021-09-02T02:44:36Z | - |
dc.date.available | 2021-09-02T02:44:36Z | - |
dc.date.created | 2021-08-18 | - |
dc.date.issued | 2021 | - |
dc.identifier.issn | 2287-5026 | - |
dc.identifier.uri | https://scholarworks.bwise.kr/hongik/handle/2020.sw.hongik/15773 | - |
dc.description.abstract | 강력한 GPU 기반의 컴퓨팅 자원을 바탕으로, 우수한 성능의 딥러닝 모델이 대거 출현하였다. 해당 모델들을 컴퓨팅 자원이 충분하지 않은 IoT/Edge device 환경에 적용하기 위해 모델 압축(model compression) 기법의 필요성이 증가하고 있다. 본 논문에서는 Tensorflow 2 Framework의 ImageNet으로 학습된 Resnet50, VGG19 Model을 전이 학습을 이용하여 CIFAR-10 Dataset으로 재학습시킨 후, 모델 압축 기법 중 지식 증류(Knowledge Distillation), 가중치 가지치기(Weight Pruning), 양자화(Quantization)의 3가지 기법을 활용하여 모델 압축 전/후 성능을 비교하였다. 모델 크기와 한 이미지 당 처리 시간, 정확도를 단일 GPU를 통해 GPU 서버와 NVIDIA Jetson Nano 환경에서 측정 후 비교하여, 각 기법에 대한 장단점을 분석했다. 지식 증류 기법은 student 모델에 의해 모델의 크기와 inference 실행 시간이 결정이 되지만, 학습량이 정확도에 미치는 영향이 크다는 것을 알 수 있었다. 가중치 가지치기 기법은 제거되는 가중치의 sparsity에 의해 정확도 및 모델의 크기가 결정이 된다. 마지막 양자화 기법은 파일사이즈의 높은 압축률과 정확도를 보였다. 하지만, inference 시간이 다른 모델 압축 기법에 비해 확연히 길어지며, 양자화 인식 훈련을 거치지 않고 훈련 후 양자화만 적용하였을 때, 충분한 정확도가 나온다면 양자화 인식 훈련은 오히려 정확도의 감소를 야기할 수 있다는 단점을 보였다. | - |
dc.language | 한국어 | - |
dc.language.iso | ko | - |
dc.publisher | 대한전자공학회 | - |
dc.title | 딥러닝 모델의 압축 방법에 따른 엣지 장치에서의성능 평가 연구 | - |
dc.title.alternative | A Study on the Performance Evaluation of Edge Device according to the Compression Method of Deep Learning Model | - |
dc.type | Article | - |
dc.contributor.affiliatedAuthor | 정은성 | - |
dc.identifier.bibliographicCitation | 전자공학회논문지, v.58, no.6, pp.50 - 60 | - |
dc.relation.isPartOf | 전자공학회논문지 | - |
dc.citation.title | 전자공학회논문지 | - |
dc.citation.volume | 58 | - |
dc.citation.number | 6 | - |
dc.citation.startPage | 50 | - |
dc.citation.endPage | 60 | - |
dc.type.rims | ART | - |
dc.identifier.kciid | ART002725339 | - |
dc.description.journalClass | 2 | - |
dc.description.journalRegisteredClass | kci | - |
dc.subject.keywordAuthor | Compression | - |
dc.subject.keywordAuthor | Edge device | - |
dc.subject.keywordAuthor | Knowledge Distillation | - |
dc.subject.keywordAuthor | Pruning | - |
dc.subject.keywordAuthor | Quantization | - |
Items in ScholarWorks are protected by copyright, with all rights reserved, unless otherwise indicated.
94, Wausan-ro, Mapo-gu, Seoul, 04066, Korea02-320-1314
COPYRIGHT 2020 HONGIK UNIVERSITY. ALL RIGHTS RESERVED.
Certain data included herein are derived from the © Web of Science of Clarivate Analytics. All rights reserved.
You may not copy or re-distribute this material in whole or in part without the prior written consent of Clarivate Analytics.