earticle

영어

Training image classification systems requires a set of images with a predefined label bound to them. However, for the purpose of attack on the system, these image sets can be poisoned, thereby harming the system. In this study, to maintain the robustness of learning, poisoned images are restored using an adversarial neural network after normalization preprocessing. The adversarial neural network consists of two components: a restoration image generator based on DnCNN and a contamination discriminator based on CNN. To validate the restoration process, we constructed a benchmark ResNet classification system and evaluated its accuracy improvement. Experimental results demonstrated that the proposed approach achieved up to a 4.9 percentage point improvement compared to systems trained with contaminated data. Therefore, the proposed research allows to handle uncontrollable or labor-heavy poisoned training dataset.

한국어

이미지 분류 시스템을 학습하는 데에는 사전 정의된 라벨이 바인딩 된 이미지 셋이 필요하다. 하지만 이러한 과정 속 시스템의 공격 목적으로 이러한 이미지 셋을 오염시켜 시스템의 정확도를 해 하기도 한다. 본 연구에서는 학습의 강건성을 유지하기 위해 오염 이미지는 정규화 전처리 후 적대적 인공신경망으로 복원한다. 적대적인공신경망은 DnCNN의 복원 이미지 생성자와 CNN의 오염 판별 자 두 개의 인공신경망으로 구성되어 있다. 복원된 이미지의 복원을 검증하기 위해 벤치마크용 ResNet 분류 시스템을 구성하여 정확도 향상을 확인하였다. 그 결과 오염 데이터를 이용해 학습한 분류시스 템 대비 최대 4.9%p의 정확도 향상 효과가 있었다. 이 연구를 통해 검증 시간이 오래 걸리거나 제어 할 수 없는 각종 요인으로 오염된 이미지 학습데이터로 인해 이미지 분류 시스템의 정확도가 낮아지 는 현상의 개선을 기대할 수 있다.