[v0.1]머신러닝_Machine Learning 무엇일까? [핸즈온 머신러닝2판]

211103작성

<본 블로그는 핸즈온 머신러닝 2판을 참고하여 작성하였습니다>

 

머신러닝이란 ?

데이터에서부터 학습하도록 컴퓨터를 프로그래밍하는 과학

 

- 일반적인 정의

명시적인 프로그래밍 없이 컴퓨터가 학습하는 능력을 갖추게 하는 연구분야

- 공학적인 정의

어떤 작업 T(Task)에 대한 컴퓨터 프로그램의 성능을 P( 정확도, Performance) 로 측정했을 때 경험 E(훈련데이터, train data) 로 인해 성능이 향상됐다면, 이 컴퓨터 프로그램은 작업 T와 성능측정 P에 대해 경험 E로 학습한 것

 

머신러닝을 왜 사용하는가 ?

너무 복잡하거나 많은 양의 데이터들을 분석하여 보이지 않은 패턴을 발견하고, 빠르게 유지보수 및 정확도가 높아짐

전통적인 방식과 머신러닝, 딥러닝

 

머신러닝 시스템의 종류

지도의 유무 & 일반화 능력에 의해 나눠짐

 

1_1 지도의 유무

: 학습하는 동안의 감독 형태나 정보량

- 사람의 감독 하에 훈련하는 것인가

 

1) 지도 학습 (Supervised learning)

: 알고리즘에 주입하는 훈련 데이터에 레이블 label 이라는 원하는 답이 포함

지도 학습

속성 (attribute) : 데이터 타입

특성 : 속성과 같이 합쳐진 것

클래스 : 레이블의 범주

• 분류 (Classification)

: 전형적인 지도 학습 필터

: Discreate

ex) 학점

• 회귀 (Regression)    
  • k-최근접 이웃 (KNN)
  • 선형 회귀 (linear regression)
  • 로지스틱 회귀 (logistic regression)
  • 서포트 벡터 머신 (support vector machine, SVM) 
  • 결정트리 (Decision tree), 랜덤 포레스트 (Random forest)
  • 신경망 (Neural networks)

: 예측 변수라 부르는 특성을 사용해 타깃 수칙을 예측

: Concreate, 연속적 함수, 독립변수

ex) 집 가격 예측

 

2) 비지도 학습 (Unsupervised learning)

: 훈련 데이터에 레이블이 없다, 아무런 도움없이 학습

비지도 학습

• 군집 (Clustering)
  • k-평균
  • DBSCAN
  • 계층 군집 분석
  • 이상치 탐지, 특이치 탐지
  • 원 - 클래스
  • 아이솔레이션 포레스트
• 시각화와 차원 축소
  • 주성분 분석 (PCA)
  • 커널 (PCA)
  • 지역적 선형 임베딩
  • t-SNE
• 연관 규칙 학습
  • 어프라이어리
  • 이클렛

 

3) 준지도 학습 (Semisupervised learning)

: 어떤 알고리즘은 일부만 레이블이 있는 데이터를 다룸

: 지도 학습과 비지도 학습의 조합으로 주로 이루어짐

: 값 유무 데이터 -> 분석

준지도 학습

4) 강화 학습 (Reinforcement learning)

: 학습하는 시스템 (에이전트) 는 환경을 관찰해서 행동을 실행하고 그 결과로 보상 (부정적인 보상은 벌점) 받음

: 가장 큰 보상을 얻기 위해 정책 이라고 부르는 최상의 전략 스스로 학습

강화 학습

 

1_2 점진적 학습의 유무

: 입력 데이터의 스트림으로부터 점진적으로 학습하는가

- 실시간으로 점진적인 학습을 하는건가

 

1) 배치 학습 (batch learning)

: 시스템이 점진적으로 학습할 수 없음

: 가용한 데이터를 모두 사용해 훈련

• 오프라인 학습 (Offline learning)
  • 먼저 시스템을 훈련, 제품 시스템에 적용하면 더 이상의 학습없이 실행
  • 학습한 것을 단지 적용
  • 하지만, 자원이 제한된 시스템이 스스로 학습해야 할 때, 많은 양의 훈련 데이터를 나르고 학습을 위해 몇 시간씩 많은 자원을 사용하면 심각한 문제 일으킴
    • + 외부 메모리 (out-of-core) : 아주 큰 데이터셋을 학습하는 시스템 
    • 데이터 일부를 읽어 들이고 훈련단계 수행, 모두 적용할 때까지 과정 반복
    • 보통 오프라인으로 학습, (실시간 수행 X)
• 온라인 학습 (Online learning)
  • 데이터를 순차적으로 한 개씩 또는 미니배치 라 부르는 작은 묶음 단위로 주입하여 시스템 훈련
  • 매 학습 단계가 빠르고 비용이 적게 들어, 데이터가 도착하는 대로 즉시 학습
  • 연속적으로 데이터 받고, 빠른 변화에 스스로 적응하는 시스템에 적합 (ex) 주식 )
  • 중요한 파라미터는 변화하는 데이터에 얼마나 빠르게 적응하는가
    • 학습률 (Learning rate) : 높을수록 데이터 빠르게 적응, 예전 데이터 쉽게 잊음
    • : 낮을수록 시스템의 관성 커져서 더 느리게 학습
  • 시스템에 나쁜 데이터 주입되면 성능 점진적으로 감소
  • 성능 감소가 감지되면 즉각 학습 중지

 

2. 일반화 능력

: 어떻게 일반화 (generalize) 되는가에 따라 분류

 

1) 사례 기반 학습 (Instance-based learning)

: 가장 간단한 형태의 학습은 단순히 기억

: 시스템이 훈련 샘플을 기억함으로써 학습 -> 유사도 측정 사용 -> 새로운 데이터와 학습한 샘플을 비교 -> 분류

 

2) 모델 기반 학습 (model-based learning)

: 샘플들의 모델을 만들어 예측에 사용

: 모델 훈련이란

-> 훈련 데이터에 가장 잘 맞는 (좋은 예측을 만드는) 모델 파라미터를 찾기 위해 알고리즘을 실행하는 것

모델 기반 학습

효용함수 (utility function or 적합도 함수 (fitness function) ) : 모델이 얼마나 좋은지 측정

비용함수 (cost function) : 얼마나 나쁜지 측정

• 데이터를 분석
• 모델을 선택
• 훈련 데이터로 모델 훈련 (학습 알고리즘이 비용 함수를 최소화하는 모델 파라미터 찾기)
  • 더 좋은 모델 -> 더 많은 특성 사용, 좋은 훈련 데이터 모으기, 더 강력한 모델 선택
• 새로운 데이터에 모델 적용해 예측, 일반화되길 기대

 

 

 

첫 포스팅 끝~