earticle

영어

Deep learning models are actively utilized in various fields such as autonomous vehicles and smart cities. Recently, they are used for intelligent object recognition and signal processing in edge devices. However, devices that operate physically far away from the management system are easily exposed to threats such as fault injection attacks. In this paper, we implemented a multi-class DNN (Deep Neural Network) model on a 32-bit microcontroller and attempted an attack that injected a clock glitch fault into the softmax algorithm, which is the activation function of the output layer, to verify that image misclassification can be caused. In particular, we implemented a fault trigger generation using a more realistic power waveform pattern matching algorithm than the firmware instruction-based fault injection technique. As a result, we confirmed that an attacker can freely determine the fault injection point outside the device by using the pattern matching technique, which is an easy and practical method to induce misclassification of the DNN.

한국어

딥러닝(deep learning) 모델은 자율 주행 자동차, 스마트 시티 등 다양한 분야에서 활발히 활용되고 있으며 최근에는 엣지 디바이스에서 지능형 객체 인식이나 신호 처리를 위해 사용되고 있다. 그러나 물리적으로 관리 시스 템과 멀리 떨어져 동작하는 디바이스의 경우 오류 주입 공격과 같은 위협에 노출되기 쉽다. 본 논문에서는 다중 분 류 DNN(Deep Neural Network) 모델을 32-bit 마이크로컨트롤러에 구현하고, 출력층의 활성화 함수인 softmax에 클럭 글리치(clock glitch) 오류를 주입하는 공격을 시도하여 이미지 오분류 동작을 일으킬 수 있음을 검증하였다. 특히, 펌웨어 명령어 기반 오류 주입 기법보다 보다 현실적인 전력 파형 패턴 매칭 알고리즘을 이용하여 오류 트리 거 생성하도록 구현하였다. 결과적으로, 공격자가 패턴 매칭 기법을 이용하면 디바이스 외부에서 자유롭게 오류 주 입 시점을 정할 수 있어 공격에 용이하고 실용적인 방법으로 DNN의 오분류를 유도할 수 있음을 확인하였다.