[AI]_17_기계학습 방법

 220327 작성

<본 블로그는 두우우부님의 알기쉬운 AI 블로그를 참고해서 공부하며 작성하였습니다>

https://doooob.tistory.com/67?category=825950 

[알기쉬운 AI - 17] 기계 학습 방법

 

 

 

 

 

1. 기계학습이란

: 컴퓨터를 학습시켜 인간처럼 인식하고 판단하게 하는 인공 지능 기법

: 기계학습 과정은 '학습 처리'와 '판정 처리'의 두 단계로 이루어짐

 

1) 학습 처리

: 훈련 데이터를 사용하여 교육함으로써 학습기가 점점 똑똑해지고 이 정도면 충분하다고 생각되는 수준까지 도달하면 드디어 학습된 모델이 완성!!

 

 

2) 판정 처리

: 학습된 분류기(학습된 모델)는 미지의 데이터가 어떤 데이터인지 판단하고 추정

EX) 학습한 데이터를 제시된 꽃 그림을 보고 경험치로부터 '장미'라고 올바르게 추정 by. 분류기

기계 학습 과정

 

 

 

 

 

2. 미니배치 학습법

: 알고리즘보다 데이터가 더 중요!!

: 학습 데이터의 양과 질 매우 중요

: 주로 대량의 데이터가 필요하지만!!! 양뿐만 아니라 품질도 매우 중요

: 저품질(사람도 판정이 불가한) 데이터로 학습하면 정확도가 오히려 떨어짐

 

훈련 데이터를 반복!
 '조금 전까지는 몰랐지만, 지금이라면 알 거 같아'
인식의 정확도가 점점 높아지게 하기

: 학습 데이터를 단번에 돌리는 배치학습 대신 더 작은 단위(배치크기)로 학습을 반복하는 미니배치 학습 방법

=> 9,000장의 사진을 통해 학습하는 케이스

=> 배치 사이즈는 60, 배치 횟수 200회, epoch 횟수 (학습용 사진 전체를 한번 사용했을 때 한 epoch가 지나감)

=> 미니배치 학습은 '확률적 경사 하강법(Stochastic gradient descent:SGD)' 에 속하여 학습 효과가 더 높아짐

 

경사 하강법이란?
: 오차를 줄이기 위해 자율 조정하는 방법

- 미니배치 학습의 확률적 경사 하강법

: 학습 데이터 중에서 무작위로(어떤 배치 사이즈의) 데이터를 검색하여 그 데이터로 학습하여 오차를 내고, 그 오차가 줄어들게 학습기를 조정하는 방법

: '미니배치마다 경사 밸런스'와 '랜덤 데이터 추출'

: 매번 무작위로 랜덤 데이터를 추출

 

 

 

 

3. 홀드 아웃 법

: 귀중한 학습 데이터이지만 모두 다 훈련에 사용하지는 X

: 훈련에 사용하는 훈련 데이터 외에 숙련도를 확인하는 평가 데이터를 확보!!

: 평가 데이터의 정확성을 체크하며 학습을 진행!

: 학습 데이터를 훈련 데이터와 평가 데이터로 나누는 방법을 홀드 아웃 법

: 평가 데이터와는 별도로 테스트 데이터를 따로 마련 ( 테스트 데이터는 훈련에 사용 XXXXXX )

: 분류기의 정답률과 정밀도가 요구하는 수준에 도달했는지 여부를 이 테스트 데이터로 판정하는 것

평가 데이터와 테스트 데이터를 나누어 학습

 

 

 

 

4. 정답률, 재현율과 정확도

: 평가에 사용하는 지수는 크게 정답률(Accuracy), 재현율(Recall), 정확도(Precision)의 세 가지

 

- 정답률

: 모든 데이터에 대한 정답 수의 비율

 

- 재현율과 정확도

: 전체 데이터가 아닌 '장미로 분류한 데이터에 대한 평가'

: 재현율과 정확도는 트레이드 오프의 관계

- F-score (조화평균)

: 재현율, 정확도 모두 통합하여 평가하는 조화 평균(F값)

: 모두 균형 있게 높인 경우 F값이 커지도록 분류기를 조정

오차행렬

 

 

 

 

5. 과학습, 일반화 오차

- 과학습

: 동일한 학습 데이터로 여러 번 반복 훈련하면(천재가 됨) 그 이외의 진짜 데이터에 대한 인식률이 오히려 떨ㅈ=어짐

: 학습할 때 평가 데이터의 정확도 향상을 확인하고 어느 정도 선에서 학습을 종료

: 과도한 학습을 방지하는 기술로는 정규화, 드롭아웃, K 분할 교차 검증 등 있음

 

- 일반화 오차

: 분류기의 인식률을 평가 데이터로 측정 XXXXX

: 새로운 테스트 데이터로 측정하여 오차 ◯%인지 확인

: 이러한 알 수 없는 데이터에 대한 오류를 '일반화 오차'

 

=> 학습 자료를 검토하여 데이터양을 더 늘리기

=> 저품질 데이터를 제거하고 다시 하기

=> 기계 학습의 매개변수를 바꾸거나 알고리즘 자체를 다른 모델로 바꾸기

 

 

 

 

6. Variance 와 Bias

- 과대적합 (overfitting)

: 특정 데이터를 과학습하여, 그 데이터에 의존하는 모델이 되어, 일반화 오차가 커지는 것을 편차(variance)가 크다

 

- 과소적합 (Underfitting)

: 데이터에 학습 부족으로 모델이 너무 단순해서 일반화 오차가 큰 경우는 편향(bias)이 크다

 

 

 

7. 활성 학습

: 학습 자료를 제공하고 학습 완료된 분류기를 사용하여 미지의 데이터를 판정

: 인공 지능의 잘못된 판단 결과를 인간이 수정한 데이터를 사용하여 추가로 학습시키는 것이 활성 학습

: 인간이 수정된 데이터를 일정 기간(일정량) 모아서 일괄적으로 학습

 

1) 인간이 전부 체크

: 분류기의 출력을 인간이 전부 체크하고 잘못된 것을 수정하여 추가 학습 데이터로 사용

: 인공 지능이 인간이 놓치는 부분을 방지

2) 정밀도에 의한 선택 체크

: 분류기는 판정한 식별 결과에 대하여 신뢰도(Confident)를 지정

: 신뢰도가 높은 데이터는 틀림없다고 확인만 된다면, 신뢰도가 낮은 데이터들만 인간이 점검하여 추가 학습

: 일반적으로 신뢰도가 높은 데이터에 드물게 신뢰도가 낮은 데이터가 섞이는 경우 인간의 작업을 크게 줄여줌

활성 학습