Neural Networks (신경망)

신경망 개요

• 인공 신경망(Artificial Neural Network: ANN)

  뇌의 정보처리를 모방하여 인간에 필적하는 지능을 가진 컴퓨터

  • 인간의 신경 세포인 시넵스에 대응하는 Perceptron을 단위로 구현
    • Perceptron: 1958년 Rosenblatt이 제안, 학습 가능함을 증명
  • 인간 두뇌의 연산은 패턴/연상 기반 이라면, 컴퓨터는 논리/산술 연산 기반이다.

퍼셉트론 (Perceptron)

• 퍼셉트론 개요
• 구조와 원리
• 활성화 함수

퍼셉트론 학습

• 퍼셉트론 학습 개요

• 패턴 인식에서 학습 알고리즘 설계과정

  단계 1: 분류기 구조 정의와 분류 과정의 수학식 정의

  단계 2: 분류기 품질 측정용 비용함수 $\mathrm{J}(\Theta)$정의 $(\ 매개변수\ 집합\ \Theta = \{\mathbf{w}^T, b\}\ )$

  단계 3: $\mathrm{J}(\Theta)$를 최적화 하는 $\Theta$를 찾는 알고리즘 설계

  • 예시

• Delta rule

• 학습 방법 A -batch mode

• 학습 방법 B -pattern mode

다층 퍼셉트론 MLP

• MLP 개요
• 다층 퍼셉트론의 아키텍처

MLP학습

• MLP 학습 개요

• 패턴 인식에서 학습 알고리즘 설계과정

  단계 1: 분류기 구조 정의와 분류 과정의 수학식 정의

  단계 2: 분류기 품질 측정용 비용함수 $\mathrm{J}(\Theta)$정의 $(\ 매개변수\ 집합\ \Theta = \{\mathbf{w}^T, b\}\ )$

  단계 3: $\mathrm{J}(\Theta)$를 최적화 하는 $\Theta$를 찾는 알고리즘 설계

  • 설계 예시

• Back Propagation Algorithm (오류 역전파 알고리즘)