Self-supervised Learning(자기주도학습) 와 Supervised Contrastive Learing

<본 블로그는 daeun-computer-uneasy 님의 블로그를 참고해서 공부하며 작성하였습니다 :-)>

https://daeun-computer-uneasy.tistory.com/37

[CV] Self-supervised learning(자기주도학습)과 Contrastive learning - 스스로 학습하는 알고리즘

 

 

🌰  자기주도학습(Self-supervised learning)

딥러닝 학습에는 충분한 양질의 데이터가 필요

이러한 데이터들의 지도학습을 위해서는 라벨링 과정이 필수적

 '자기주도학습(Self-supervised learning)'은 비지도학습의 한 분야에 속하는 방법

스스로 Supervision을 주는 방법 -> 전혀 라벨링 되어있지 않은 데이터로 학습을 진행

 

 

🥔 Pretext task

사용자가 새로운 문제를 정의한다는 것

pretext task를 학습함으로써 모델은 데이터 '자체'에 대한 이해를 높일 수 있게 됨

 

Pretext task가 제안된 최초의 논문 Exemplar

붉은색으로 표시되어 있는 부분이 원래의 원본 image(Seed patch)

나머지는 일반적으로 사용하는 augmentation 방법을 이용하여 crop, 색상변환 등의 과정을 거친 것

 

augmentation으로 생성된 image들을 모두 같은 class로 분류하도록 분류기를 학습 시킴

 

📛 BUT

image 하나하나가 하나의 class를 부여받게되니, 큰 데이터셋에 적용하기에는 무리가 있을 것

데이터 개수가 class 개수가 되는 현상이 발생하는 것

 

 

🥔 Contrastive learning

치타를 Input image로 넣었는데 치타, 래오파드, 재규어 등에 유사한 feature가 작용하고 있음을 확인

잘 추출된 특징값은 instance간의 유사도 정보를 가지고 있을 것이라는 가정으로 시작

 

Contrastive Learning은 Positive pair와 Negative pair로 구성

Positive pair 끼리는 거리를 좁히고, Negative pair 끼리는 거리를 멀리 띄워놓는 것이 학습 원리

=> Contrastive Learning은 같은 image에 서로 다른 augmentation을 가한 뒤, 두 positive pair의 feature representation은 거리가 가까워 지도록(유사해지도록) 학습

=> 다른 image에 서로 다른 augmentation을 가한 뒤, 두 negative pair의 feature representation은 거리가 멀어지도록 학습

강아지와 의자의 이미지를 각각 augmentation하고, 이 augmentation 된 것끼리는 각각 positive pairs로 거리를 좁혀주도록 학습

강아지와 의자는 구분해야하므로, 이 둘은 negative pairs로써 학습하는 것