Training - BPTT / RTRL / EKF

● DTRNN(Discrete-time recurrent neural network)

- 네트워크가 외부 클록에 의해 구동된 것처럼 개별 단계로 처리가 수행된다

 

● CTRNN(Continuous-time recurrent neural network)

- 연속적인 시간에서 처리된다

 

 

Training approaches

• BPTT(Backpropagation though time)
  • 스퀀스가 처리될 때마다 discrete-time RNN을 multilayer FFNN(feedforward neural network)으로 펼친다
  • FFNN은 시퀀스에서 각 'time step'에 대한 layer을 하나씩 가진다. 'time step'은 layer의 index와 같다
  • layer 간 연결을 돌려쓴다
  • 단점: 전체 시계열을 사용해야하므로 온라인 적응이 필요한 응용 프로그램에서는 사용하기 어렵다
    • One optime (p-BPTT): 전체 시간 대신 일부를 자름
      • 단점: 잘린 시간 이후의 메모리는 모델에서 캡처 할 수 없다

 

• RTRL(Real-time recurrent learning)
  • 각 time step에서 오차 gradient와 update weight를 계산
  • forward step 동안 네트워크의 모든 가중치와 관련하여 내부 및 output 노드의 gradient를 계산

 

• EKF(Extended Kalman filter)
  • KF
    • 선형 시스템에서 제곱 오차의 평균(MSE)을 최소화하는 방식으로 프로세스 상태를 추정하는 효율적인 계산(재귀) 수단을 제공하는 일련의 수학 방정식
  • EKF
    • 비선형 시스템에서 작동하는 버젼

 

 

 

 

 

 

사진 및 기타 정보 출처