😎 공부하는 징징알파카는 처음이지?

220914 작성 😎 Batch Normalization Batch 단위로 한 레이어에 입력으로 들어오는 모든 값들을 이용해서 평균과 분산을 구함 feature element별로(차원별로) 평균과 분산을 구함 반대로, Conv Layer은 Activation map(채널, Depth)마다 평균과 분산을 하나만 구함 -> 데이터의 '공간적 구조(Spatial Structure)'가 잘 유지되기를 바람 -> So, CNN Activation Map을 normalize 할 때는 전체 map의 평균과 분산을 같이 구함 평균과 분산값을 이용해 Normalization Batch Norm은 미분이 가능 순서 Convolution - Batch Normalization - Activation - Dropout - P..

220905 작성 https://inhovation97.tistory.com/32 Learning rate & batch size best 조합 찾기 (feat.논문리뷰와 실험결과) * 2022-08-29 수정함. 이번 포스팅은 저의 지난 포스팅의 배경 지식이 요구되므로 읽고 오시기를 추천드립니다 :) 저는 모델링 경험이 엄청 많지는 않기 때문에 고수분들에게는 해당 포스팅이 당 inhovation97.tistory.com https://www.slideshare.net/w0ong/ss-82372826 텐서플로우로 배우는 딥러닝 저희과 학생들을 위해 만든 입문 발표 자료입니다. www.slideshare.net 😎 Learing rate 현재점에서 다음점으로 얼만큼 이동할지, 다르게 말하면 모델이 얼마나 ..

220510 작성 https://niniit.tistory.com/32 [리뷰] Computer Vision Tutorial: Image Segmentation을 위한 마스크 R-CNN 구현 Mask R-CNN을 탐색하여 인스턴스 분할이 Mask R-CNN과 어떻게 작동하는지 이해 한 다음 Keras를 사용하여 Mask R-CNN을 사용하여 이미지의 분할을 예측 개요 Mask R-CNN은 이미지 분할 작업을 위한 최첨단 프 niniit.tistory.com 😎 Mask R-CNN Faster R-CNN의 확장 Faster R-CNN이란? 물체 감지 작업에 널리 사용되며, 주어진 이미지에 대해 이미지의 각 객체에 대한 클래스 레이블 및 경계 상자 좌표를 반환 더 빠른 R-CNN은 먼저 ConvNet을 사용..

220302 작성 https://doooob.tistory.com/199 [딥러닝 입문 - 4] 선형 대수의 기초(3/9) 4.1.4 행렬 곱 행렬의 곱셈은 행렬 곱, 외적 ,요소적(아다마르 곱)등 여러 가지가 있습니다. 여기서는 그중에서 선형 대수와 기계 학습에 자주 등장하는 행렬 곱에 대해 설명합니다. 행렬 A와 doooob.tistory.com 1. 행렬 곱 : 행렬 곱, 외적 ,요소적 등 여러가지 있음 : 행렬 A와 행렬 B의 행렬 곱은 AB로 쓰고, A의 각 행과 B의 각 열의 내적을 나열한 것으로 정의 : 내적이 정의 되어야 되며, 벡터의 크기가 같아야 한다 : AB = C 행렬 곱을 정의하기 위해서는, A의 열수 M과 B의 행수 O가 일치해야 한다 ! ! ! : 두 벡터의 내적의 결과는 스칼..

220302 작성 https://doooob.tistory.com/197 [딥러닝 입문 - 4] 선형 대수의 기초(2/9) 5.1.1 변수의 형태와 서체의 관계 많은 교과서(특히 선형 대수학 교과서)에서는, 변수를 한번 보고 그 형태가 무엇인지 알 수 있도록 특정 모양(벡터, 행렬 등)의 변수는 특정 글꼴을 사용하도록 doooob.tistory.com 1. 변수의 형태와 서체 관계 - 가산, 감산 : 가산, 감산은 같은 크기의 벡터, 행렬, 텐서들 간에서만 성립 (같은 위치에 있는 요소끼리 연산) => 요소별 계산 - 스칼라 곱 : 벡터, 행렬, 텐서에 스칼라 곱하는 연산 : 벡터(행렬 / 텐서) 의 크기는 변화하지 않는다 2. 내적 : 같은 크기의 두 벡터를 내적하다 : 각 벡터와 같은 위치에 대응하는..

220302 작성 https://doooob.tistory.com/196 [딥러닝 입문 - 4] 선형 대수의 기초(1/9) 4. 선형 대수의 기초 기계 학습의 이론에는 선형 대수학에서 사용되는 개념이 많이 등장합니다. 이러한 개념을 이용함으로써 복수의 값이나 변수를 한꺼번에 처리할 수 ​​있도록 수식을 간결 doooob.tistory.com 1. 선형 대수의 기초 1) 스칼라, 벡터, 행렬, 텐서 - 스칼라 scalar : 하나의 값, 또는 변수 : 온도, 체중, 신장 등 단일 수량 : x∈R => R은 실수의 스칼라로 이루어진 집합을 나타내며 A∈B 는 A는 B에 속한다 - 벡더 vector : 스칼라를 한 방향으로 정렬한 것 : 벡터를 구성하는 스칼라들의 수를 요소나, 성분 : 열벡터란, 수직 방향으..

220302 작성 https://doooob.tistory.com/192 [딥러닝 입문 - 3] 미분의 기초 (3/3) 3.5 선형성 미분은 선형성이라는 성질을 가지고 있습니다. 구체적인 예를 들어 살펴봅시다. 처럼 상수를 미분 연산의 외측으로 꺼낼 수 있습니다. 또한, 처럼, 덧셈과 뺄셈은 각 항목마다 독립적 doooob.tistory.com 1. 선형성 : 미분은 선형성이라는 성질을 가지고 있다 - 각 항목마다 독립적인 미분 연산 가능 - 상수를 미분 연산의 외측으로 꺼낼 수 있음 => 두 가지 특성 합쳐 "선형성" 그외 공식 2. 합성 함수의 미분 : z=g(f(x)) 의 미분 : 딥러닝으로 말하자면 " 각 층을 하나의 함수로 간주하면 신경망은 많은 함수(층)을 합성한 합성 함수 ) : 연쇄법칙이란..

220201 작성 https://doooob.tistory.com/191 [딥러닝 입문 - 3] 미분의 기초 (2/3) 3.2. 두 점 사이를 잇는 직선의 기울기 접선의 기울기와 미분의 관계를 알아보기 위해 먼저 2점을 지나는 직선의 기울기를 구하는 문제를 봅시다. 직선의 기울기는 'y(세로)의 증가량 / x(가로)의 doooob.tistory.com 1. 두 점 사이를 잇는 직선의 기울기 : 직선의 기울기는 'y(세로)의 증가량 / x(가로)의 증가량'으로 계산 2. 접선의 기울기 : 극한에서는 변수가 어떤 값에 한없이 가까워질 때, 그 변수에 의해 기술되는 함수가 어떤 값에 가까워지는지 고려 : 함수 f에 대하여, h라는 변수를 a에 한없이 가깝게 접근시켰을 때 f(h)가 가까워지는 값을 lim 라는..