이미지의 강인하지 않은 특징을 이용한 간단한 적대적 기계 학습 방법

Abstract

최근 깊은 신경망(Deep Neural Network), 컨볼루션 신경망(Convolutional Neural Network) 등 인공 신경망을 활용한 인공지능에 대한 연구가 활발히 이루어지고 있다. 특히, 컨볼루션 신경망을 통한 이미지 처리 문제에 대한 발전이 이루어지며 네트워크의 오작동을 유발하는 적대적 공격(Adversarial Attack) 또한 관심을 받고 있다. 이전까지의 연구에서 적대적 공격은 인공 신경망의 선형성과 관련한 문제로 여겨졌는데 최근 연구에서는 이미지에 강인한 특징(Robust Feature)과 강인하지 않은 특징(Non-robust Feature)이 있다는 사실과 강인하지 않은 특징이 적대적 공격에 영향을 미친다는 것이 밝혀졌다. 이에 착안해 본 논문에서는 이미지에서 특징값을 추출하기 위한 가중치 중 강인하지 않은 특징 추출에 관여하는 가중치를 제거해 인공 신경망을 적대적 공격에 강인하도록 재구성하는 방법을 제안했고, 실험을 통해 제안한 방법을 적용한 인공 신경망이 일반 예제에 대해 90.09%의 정확도를, 적대적 공격 예제에 대해 89.13%의 정확도를 보이며 적대적 공격에 대해 강인해지는 결과를 확인할 수 있었다.