본문 바로가기
HOME> 논문 > 논문 검색상세

논문 상세정보

결정경계 수직벡터의 해석적 계산을 통한 신경망 결정경계 특징추출 알고리즘의 성능 개선
Improving the Performance of Decision Boundary Feature Extraction for Neural Networks by Calculating Normal Vector of Decision Boundary Analytically

고진욱   (연세대학교 전기·전자공학과UU0000936  ); 이철희   (연세대학교 전기·전자공학과UU0000936  );
  • 초록

    본 논문에서는 결정경계(decision boundary)를 이용한 신경망의 특징추출을 해석적으로 구현할 수 있는 방법을 제안한다. 최근 발표된 신경망의 결정경계 기반의 특징추출 방법은 기존의 특징추출 방법보다 우수한 성능을 보여 주었다. 이러한 결정경계 특징추출 방법은 패턴 분류기(pattern classifier)의 결정경계에 수직한 벡터가 패턴 클래스(class)간을 분류하는데 유용한 정보를 포함한다는 사실을 기반으로 원래의 데이터로부터 분류에 필요한 정보들만을 추출하게 된다. 그러나 기존의 결정경계 특징추출 알고리즘은 신경망 결정경계의 수직벡터를 구하기 위해 결정경계의 변화율(gradient) 근사 방법을 사용하였다. 그 결과 결정경계 수직벡터가 부정확하게 계산될 가능성이 있고 계산 시간이 길어지는 문제점이 존재한다. 본 논문에서는 이러한 문제점을 해결하기 위해 수직벡터를 하나의 방정식으로부터 해석적으로 계산하는 방법을 제안한다. 제안된 방법을 원격탐사 데이터의 패턴분류에 적용하여 그 성능을 확인한 결과 특징추출에 필요한 연산 시간을 대폭 줄일 수 있고 또한 더 향상된 특징추출 성능을 얻음을 확인하였다.


    In this paper, we present an analytical method for decision boundary feature extraction for neural networks. It has been shown that all the features necessary to achieve the same classification accuracy xxxas in the original space can be obtained from the vectors normal to decision boundaries. However, the vector normal to the decision boundary of a neural network has been calculated numerically using a gradient approximation. This process is time-consuming and the normal vector may be inaccurately estimated. In this paper, we propose a method to improve the performance of the previous decision boundary feature extraction for neural networks by accurately calculating the normal vector When the normal vectors are computed analytically, it is possible to reduce the processing time significantly and improve the performance of the previous implementation that employs numerical approximation.


  • 참고문헌 (10)

    1. R.P. Lippmann, 'An Introduction to Computing with Neural Nets,' IEEE Acoust Signal Processing Mag., Vol. 4, pp. 4-22, Feb. 1987 
    2. J.A. Benediktsson, J.R. Sveinsson, and K. Arnason, 'Classification and feature extraction of AVIRIS data,' IEEE Trans. Geoscience and Remote Sensing, Vol. 33, No. 5, Sep. 1995 
    3. L.L. Biel and et al., 'A Crops and Soils Data Base For Scene Radiation Research,' Proc. Machine Process of Remotely Sensed Data Symp., West Lafayette, Indiana, 1982 
    4. E. Choi and C. Lee, 'Optimizing Feature Extraction for Multiclass Problems,' IEEE Trans. on Geoscience and Remote Sensing, Vol. 39, No. 3, Mar. 2001 
    5. C. Lee and D.A. Landgrebe, 'Decision boundary feature extraction for neural networks,' IEEE Trans Neural Networks, Vol. 8, No. 1, January 1997 
    6. C. Lee and D.A. Landgrebe, 'Feature extraction based on decision boundaries,' IEEE Trans. on Pattern Analysis and Machine Intelligence, Vol. 15, No. 4, pp. 388-400, 1993 
    7. F. Fukushima and M. Wake, 'Handwritten alphanumeric character recognition by the neocognitron,' IEEE Trans. Neural Networks, Vol. 2, pp. 355-365, Mar, 1991 
    8. J.A. Richards, Remote Sensing Digital Image Analysis, Springer-Verlag, 1993 
    9. S. Haykin, Neural Networks, New York:Macmillan, 1994 
    10. D.H. Foley and J.W. Sammon, 'An Optimal Set of Discriminant Vectors,' IEEE Trans. Computer, Vol. C-24, No. 3, pp. 281-289, 1975 

 저자의 다른 논문

  • 고진욱 (1)

    1. 2001 "순방향 2층 신경망의 연결강도 분포 특성 분석 및 연결강도 초기화에 적용" 電子工學會論文誌. Journal of the Institute of Electronics Engineers of Korea. CI, 컴퓨터 38 (3): 1~12    
  • 이철희 (17)

 활용도 분석

  • 상세보기

    amChart 영역
  • 원문보기

    amChart 영역

원문보기

무료다운로드
  • NDSL :
유료다운로드

유료 다운로드의 경우 해당 사이트의 정책에 따라 신규 회원가입, 로그인, 유료 구매 등이 필요할 수 있습니다. 해당 사이트에서 발생하는 귀하의 모든 정보활동은 NDSL의 서비스 정책과 무관합니다.

원문복사신청을 하시면, 일부 해외 인쇄학술지의 경우 외국학술지지원센터(FRIC)에서
무료 원문복사 서비스를 제공합니다.

NDSL에서는 해당 원문을 복사서비스하고 있습니다. 위의 원문복사신청 또는 장바구니 담기를 통하여 원문복사서비스 이용이 가능합니다.

이 논문과 함께 출판된 논문 + 더보기