시계열 데이터란(Time Serial)

220926 작성

<본 블로그는 김성범[ 소장 / 인공지능공학연구소 ] 님의 유튜브 강의를 참고해서 공부하며 작성하였습니다 :-) >

https://www.youtube.com/watch?v=Zzt4Ept-zYs 

 

 

 

 

 

1️⃣ 시계열 데이터 

: 관측치가 시간적 순서를 가진 데이터 셋의 집합

https://www.youtube.com/watch?v=Zzt4Ept-zYs

• 단변량 시계열(Univariate) : 동일한 간격의 시간 증가에 대해 순차적으로 기록된 한 개의 변수 관측치로 구성된 시계열
• 다변량 시계열(Multivariate) : 동일한 간격의 시간 증가에 대해 순차적으로 기록된 두 개 이상의 변수 관측치로 구성된 시계열

 

2️⃣ 시계열 데이터의 이상 탐지 어려움

• 이상 유형이 다양
• 정상과 비정상 데이터를 정확히 구분하여 라벨링하기 어려움
  • 시간과 비용 많이 소요
  • 정상과 이상의 경계 불명확
• 정상 데이터에 비해 비정상 데이터 비율이 훨씬 적음 -> 데이터 불균형 -> 분류 문제의 장애물

 

 

3️⃣ 시계열 데이터의 이상 탐지

 

4️⃣ 주요 모델

🧡 Autoencoder

• 입력된 데이터를 재복원하는 비지도학습
• 입력된 갑과 최대한 비슷하게 출력
  • encoder : 데이터를 압축하여 중요한 정보면 살리는 feature 로 변환
  • decoder : 압축된 feature 를 이용하여 입력 데이터를 최대한 원본과 가깝게 복원

Autoencoder

👀 이상탐지

• 입력 데이터로 정상 데이터만 사용
• encoder 의 입력 데이터와 decoder 의 결과인 복원 데이터의 차이 줄이며, Autoencoder는 정상 데이터 특징 학습
• 비정상 데이터는 학습 X -> 비정상 데이터가 모델에 입력되면, 복원된 데이터가 입력과 많은 차이 발생
• 복원 에러 = 입력 데이터 - 복원 데이터
• 임계치 정하고, 복원 에러가 임계치 넘게 되면 이상 탐지

 

• 한계점
  • 비정상 데이터가 정상 데이터와 비슷하면, reconstruction error 가 작아서 이상 감지 어려움
• 한계 극복
  • Autoencoder 입력 데이터에 비정상 데이터가 포함 여부를 식별하여 우수한 reconstruction 수행

 

 

 

🧡 LSTM - Autoencoder

• sequence 데이터를 위한 LSTM 구조를 사용하는 Autoencoder
• 시계열 데이터의 Anomaly Detection 은 시간적인 특성을 고려
• 이전의 정보를 현재의 문제 해결에 활용할 수 있는 LSTM 네트워크 이용
  • encoder
    • 정상 데이터만 사용
    • Hidden vector는 이전 단계의 Hidden vector과 입력값 활용하여 구함
    • 마지막 Hidden vector 가 Latent vector가 되어 Decoder 단계의 최초 Hidden vector로 사용
  • decoder
    • encoder의 입력 데이터를 역순으로 Reconstruction
    • Hidden vector는 이전 단계의 Hidden vector과 입력값 활용하여 구함
  • Objective Function
    • encoder의 앱력값과 decoder의 출력값의 차이에 대한 MSE 를 최소화 하도록 학습
  • Inference
    • Hidden vector는 이전 단계의 Hidden vector과 decoder 의 출력값을 활용하여 구함

 

👀 이상탐지

• Reconstruction Error
  • Early Stopping 데이터 이용하여 error vector 구함
  • Error vector 사용하여 정규분포 N(µ, ∑) 의 µ, ∑ 추론
• Anomaly Score
  • e(i)에서 정규분포 N(µ, ∑) 까지의 거리 (거리가 멀어질수록 이상값이라 판단)
  • 임계치(r) 정하고, 그 값보다 Anomaly score가 크면 이상치로 판단

 

• 한계점
  • 정상 데이터만으로 학습하기 때문에, 다른 데이터가 들어와도 train set 과 비슷하게 만드는 과적합 발생
    • 과적합 : 학습 모델이 주어진 데이터에 매우 과하게 맞춰져서 다른 데이터가 들어와도 다른 결과로 예측하여 결과적으로 정확도가 낮아진다
• 제안 모델
  • Single Autoencoder 이 아닌 서로 다른 네트워크 구조를 가진 여러개의 Autoencoder 결합
  • 서로 다른 네트워크 구조를 Autoencoder를 생성하기 위해 Sparely-connected Autoencoder 적용
    • Sparely-connected Autoencoder
      • 서로 다른 구조를 가진 Autoencoder 를 여러 개 생성하기 위해 RNN 구조 변경
        • RNN unit 사이의 연결을 임의 제거
        • RNN unit 사이의 연결을 임의 추가

 

 

🧡 Generative Adeversarial Networks(GANs)

• 기본 구조 : 생성기(Generator) + 판별기(Discriminator)
  • 생성기 : 원본 데이터 (Real data)와 유사한 가짜 데이터(Fake data) 생성
  • 판별기 : 원본 데이터와 가짜 데이터 구별
• 두 데이터가 경쟁하며 서로의 역할 발전시킴

 

 

👀 이상탐지

• 한계점
  • 생성기와 분류기의 불균형. 안정적인 학습 어려움
  • Mode-Collapse : 생성기가 제한된 종류의 샘플 생성
  • Non-Convergence : Model의 parameter 가 수렴하지 않고, 불안정
• 한계 극복
  • Autoencoder 아키텍처의 도움으로 Adversarial Training의 안정성 확보

 

 

5️⃣ 결과

• 시계열 데이터의 이상탐지 문제는 도메인 의존성, 다양한 이상 유형, 라벨링 데이터 부족, 데이터 불균형 등으로 어려움
• 비지도 학습 모델인 Autoencoder 은 이상 탐지 문제에 도움이 됨
  • but, 과적합, 정상 데이터와 유사한 비정상 데이터 판별 등 문제점 있음