earticle

영어

Nowadays, as Deep Neural Networks (DNNs) are used in various fields, the number of attack methods that threaten the security elements of DNNs is increasing. In particular, the activation function, one of the key elements of DNN, is an important part of processing input signals and generating output. Some attacks on this function can have a significant impact on the model learning and prediction, and can also degrade the model performance by causing misclassification or malfunction. In this paper, we confirmed through experiments that a fault injection attack on Softmax, one of the activation functions of DNN, is possible. Then, we propose countermeasures to deal with the attack and evaluate whether an actual counteraction is possible using the MNIST dataset. As a result, it was confirmed that approximately 90% of the data did not operate normally due to the fault injection attack. Based on these results, we experimented that the proposed countermeasure was able to prevent misclassification of all data.

한국어

최근 DNN(Deep Neural Network)이 다양한 분야에서 활용되는 요즘, DNN의 보안 요소를 위협하는 공격 방식들도 늘어나고 있다. 특히, DNN의 핵심 요소 중 하나인 활성화 함수는 입력 신호를 처리하고 출력을 생 성하는 중요한 부분이다. 이 함수에 대한 공격은 모델의 학습 및 예측에 큰 영향을 미칠 수 있으며, 오분류 또는 오작동을 유발함으로써 모델의 성능을 저하시킬 수도 있다. 본 논문에서는 이런 보안 위협에서 DNN의 활성화 함 수 중 출력단에서 사용되는 Softmax에 대한 오류 주입 공격이 가능함을 실험을 통해 확인하였다. 그리고 공격에 대응할 수 있는 대응책을 제안하여 실제 대응이 가능한지 MNIST 데이터셋을 이용하여 평가한다. 결과적으로 오 류 주입 공격에 의해 데이터의 약 90%는 정상 동작을 하지 못함을 확인하였다. 이 결과를 바탕으로 제안한 오류 주입 공격 대응책을 적용하여 실험한 결과, 모든 데이터에 대한 오분류되는 것을 방어할 수 있었다.