[Deep Learning]_2_미분 기초 (1)

220201 작성

<본 블로그는 두우우부님의 딥러닝 입문 블로그를 참고해서 공부하며 작성하였습니다>

https://doooob.tistory.com/190

[딥러닝 입문 - 3] 미분의 기초 (1/3)

 

 

 

 

 

 

 

미분의 기초

1. 미분과 함수 최소화

: 미분이 목적 함수의 최소화에 도움이 됨

 

 

 

 

2. 골짜기 함수

1) 기울기 양수

:  θ1에서 이 함수의 그래프에 접하는 직선(접선) 은 오른쪽으로 갈수록 기울기 증가, 왼쪽으로 갈수록 기울기 감소

 

2) 기울기 음수

:  θ2에서 이 함수의 그래프에 접하는 직선(접선) 은 오른쪽으로 갈수록 기울기 감소, 왼쪽으로 갈수록 기울기 증가

 

3) 기울기 0

: 기울기 0 에서 최소값을 가진다 ( 접선은 수평 )

 

• 접선의 기울기가 양수라면, 우상향 증가 (오른쪽 위로)
• 접선의 기울기가 음수라면, 우하향 감소 (오른쪽 아래로)
• 접선의 기울기가 0 이라면 함수가 최소값을 취함

=> 함수의 최소값을 구할 때는 접선의 기울기가 0이 되어야함

=> 미분을 이용하면 접선의 기울기를 계산할 수 있다

 

 

골짜기 함수에서는 접선의 기울기가 0 이면
최소값을 가진다