Serial Data 장애 예측/감지 LSTM & Conv 모델

🟢 LSTM (Long Short term Memory)

: 이전 시간 스텝을 입력값으로 사용해서 시계열 또는 시퀀스의 후속 값을 예측

1) Forget : 과거 정보를 얼마나 유지할지

2) Input : 새로 입력된 정보를 얼마나 활용할지

+) ('과거에서 유지할 정보' + '현재에서 유지할 정보')를 통해 현재 시점의 cell state를 update

3) Output : 두 정보를 계산해 나온 출력 정보를 얼마만큼 넘겨줄 것인지

 

🟢Convolution

: 커널을 사용해 원본 이미지에 컨볼루션(convolution)을 취하면 필터의 특성에 맞게 강조된 이미지를 얻음

 

 

 

🎵 모델 동작 원리

1. epoch

: 학습 반복 횟수

: 같은 데이터를 가지고, 반복을 하며 loss를 줄여나가는 것이 딥러닝의 학습

 

2. loss

: 오차란 알고리즘이 예측한 값과 실제 정답과의 차이를 의미

: 이 값을 줄이는 것을 목적으로 파라미터를 갱신하여 학습을 진행

: 값이 줄어들수록 좋은 것

 

3. 과소적합 Underfitting

: 훈련 세트와 검증 세트 모두에서 높은 손실

✔ 과소 적합의 원인

- 모델의 복잡도가 낮은 경우

- 모델에 너무 많은 규제가 적용된 경우

- 충분하지 못한 epoch로 학습하는 경우

 

✔ 해결 방법

- 더 복잡한 모델을 적용하여 훈련 세트의 규칙을 잘 찾아냄

- 모델에 너무 많은 규제가 걸린 경우 규제를 줄임

- 더 많은 epoch를 통해 모델이 충분히 학습하여 훈련 세트의 규칙을 찾게 함

 

4. 과대적합 Overfitting

: 훈련 세트에서는 낮은 손실, 검증 세트에서는 높은 손실

✔ 과대 적합의 원인

- 데이터 세트 내 데이터가 충분하지 못한 경우

- 모델의 복잡도가 큰 경우

- 과도하게 큰 epoch로 학습하는 경우

 

✔ 해결 방법

- 훈련 세트에 데이터를 추가

- 가중치를 제한하는 규제(Regularization)를 적용하여 모델의 복잡도를 낮춤

- 모델의 학습 곡선(learning curve)을 보고 적당한 epoch를 찾아내어 그 epoch까지만 훈련 함 -> 조기종료(early-stopping)