earticle

영어

In this paper, we proposed the design method of Extreme Learning Machine which is optimized by using Particle Swarm Optimization Technique. Extreme Learning Machine is the improved version of the conventional neural networks which have a very slow learning speed based on the back-propagation algorithm. In the conventional neural networks, the connection weights between the input layer and the hidden layers are initialized randomly and then optimized by using the gradient decent method. The speed of the learning method for the conventional neural networks is slow. In order to overcome the drawback of the conventional neural networks, the connection weights of the hidden nodes are just initialized randomly and will not be optimized, and the only connection weights of the output nodes are learned by using least square estimation not the iterative learning method. In addition, we use Particle Swarm Optimization to optimize the proposed Extreme Learning Machine. Several machine learning bench-mark data sets are used to show the generalization performance of the proposed design method and to compare their performance with the other already studied models.

한국어

본 논문에서는 커널 Extreme Learning Machine을 기반으로 하여 최적화 기법들 중의 하나인 입자 군집 최적화 기법을 이용한 설계 기법을 제시한다. 제안된 Kernel Extreme Learning Machine은 기존에 사용되어지는 뉴럴 네트워크의 단점을 개선한 네트워크이다. 다시 말하면, 뉴럴 네트워크의 단점인 느린 학습속도를 개선한 네 트워크이다. 일반적으로 뉴럴 네트워크의 히든 노드들은 랜덤 초기화 후 오류 역전파 알고리즘을 이용하여 학습 한다. 이와 같은 오류 역전파 알고리즘은 매우 느린 학습속도를 보인다. 이와 같은 단점을 해결하기 위하여, Kernel Extreme Learning Machine의 히든 노드들은 랜덤 초기화 되고 학습되지 않고 출력층의 연결 하중만 학습 되어진다. 이와 같은 장점을 가진 Kernel Extreme Learning Machine의 구조를 최적화하기 위하여 입자 군집 최적 화 기법을 사용한다. 제안된 설계 방법을 적용하여 설계된 모델의 일반화 성능의 우수성을 보이기 위하여, 다수 의 머신러닝 데이터들을 이용하여 실험하고 실험을 통해 얻은 결과를 비교 평가하였다.