본문 바로가기
HOME> 논문 > 논문 검색상세

논문 상세정보

확률적 근사법과 후형질과 알고리즘을 이용한 다층 신경망의 학습성능 개선
Improving the Training Performance of Multilayer Neural Network by Using Stochastic Approximation and Backpropagation Algorithm

조용현    (영남전문대학 전자과   ); 최흥문    (경북대학교 전자공학과  );
  • 초록

    This paper proposes an efficient method for improving the training performance of the neural network by using a hybrid of a stochastic approximation and a backpropagation algorithm. The proposed method improves the performance of the training by appliying a global optimization method which is a hybrid of a stochastic approximation and a backpropagation algorithm. The approximate initial point for a stochastic approximation and a backpropagation algorihtm. The approximate initial point for fast global optimization is estimated first by applying the stochastic approximation, and then the backpropagation algorithm, which is the fast gradient descent method, is applied for a high speed global optimization. And further speed-up of training is made possible by adjusting the training parameters of each of the output and the hidden layer adaptively to the standard deviation of the neuron output of each layer. The proposed method has been applied to the parity checking and the pattern classification, and the simulation results show that the performance of the proposed method is superior to that of the backpropagation, the Baba's MROM, and the Sun's method with randomized initial point settings. The results of adaptive adjusting of the training parameters show that the proposed method further improves the convergence speed about 20% in training.


 저자의 다른 논문

  • Choi, Heung-Moon (42)

    1. 1977 "조합논리회로의 결함검출시험에 관한 연구" 電子工學會誌 = Journal of the Korean Institute of Electronics Engineers 14 (6): 10~15    
    2. 1981 "능동RC여파기를 위한 유한이득증복기의 주파수 특성 개선" 電子工學會誌 = Journal of the Korean Institute of Electronics Engineers 18 (6): 38~43    
    3. 1994 "B-ISDN UNI에서 폭주를 예방하기 위한 B-NT의 트래픽 흐름 제어" 한국통신학회논문지 = The journal of the Korean institute of communication science 19 (6): 1085~1094    
    4. 1995 "공간의존행렬과 신경망을 이용한 문서영상의 효과적인 블록분할과 유형분류" 정보처리논문지 = The transactions of the Korea Information Processing Society 2 (6): 937~946    
    5. 1995 "시스템 출력의 퍼지추론결과를 이용한 제어기의 성능 개선" 퍼지 및 지능시스템학회 논문지 = Journal of fuzzy logic and intelligent systems 5 (4): 77~86    
    6. 1995 "대규모 병렬컴퓨터를 위한 교차메쉬구조 및 그의 성능해석" 電子工學會論文誌. Journal of the Korea institute of telematics and electronics. B b32 (5): 720~729    
    7. 1996 "다중컴퓨터를 이용한 신경회로망 기반 실시간 자동 표적인식시스템의 병렬구현" 電子工學會論文誌. Journal of the Korea institute of telematics and electronics. B b33 (2): 197~208    
    8. 1996 "Cooperative network와 MLP를 이용한 PSRI 특징추출 및 자동표적인식" 電子工學會論文誌. Journal of the Korea institute of telematics and electronics. B b33 (6): 198~207    
    9. 1996 "다중컴퓨터망에서 SOFM 신경회로망의 병렬구현 및 성능평가" 電子工學會論文誌. Journal of the Korea institute of telematics and electronics. B b33 (10): 90~97    
    10. 1996 "Karhunen-loeve 변환과 분류 벡터 양자화에 의한 효율적인 영상 부호화" 電子工學會論文誌. Journal of the Korea institute of telematics and electronics. B b33 (11): 44~52    

 활용도 분석

  • 상세보기

    amChart 영역
  • 원문보기

    amChart 영역

원문보기

무료다운로드
  • NDSL :
유료다운로드

유료 다운로드의 경우 해당 사이트의 정책에 따라 신규 회원가입, 로그인, 유료 구매 등이 필요할 수 있습니다. 해당 사이트에서 발생하는 귀하의 모든 정보활동은 NDSL의 서비스 정책과 무관합니다.

원문복사신청을 하시면, 일부 해외 인쇄학술지의 경우 외국학술지지원센터(FRIC)에서
무료 원문복사 서비스를 제공합니다.

NDSL에서는 해당 원문을 복사서비스하고 있습니다. 위의 원문복사신청 또는 장바구니 담기를 통하여 원문복사서비스 이용이 가능합니다.

이 논문과 함께 출판된 논문 + 더보기