하루에 빵코 한입

1. 심층 신경망(Deep Neural Network)

 이번 포스팅에서야 제대로 Deep한 개념이 나오게 된다. Deep하다는 것은 입력층과 출력층 사이에 은닉층(Hidden Layers)이 많이 껴있어 입력층과 출력층 사이가 Deep하다는 의미이다. 그렇다면 왜 딥러닝일까? 직관적으로 이해하기 위하여 아래 그림을 보면, 여러 비선형 변환기법의 조합을 통해 높은 수준의 추상화가 가능하다는 것을 알 수 있다. 일반적으로 깊은 층을 가질 수록 더욱 복잡한 표현이 가능하다고 알려져있다. 

출처: 장교수의 딥러닝

 심층 신경망은 Perceptron을 여러개 쌓은것 처럼 보인다 하여 다층 퍼셉트론(Multi-layer Perceptron)이라고도 한다. 그러면 단층 퍼셉트론에서 진행한 순서대로 심층 신경망을 설계해보자.

Step 1. 모델 설계

 아래 그림은 심층신경망의 예이다. 입력층 $x$가 있고, $L-1$개의 은닉층(Hidden Layers) $h$가 있고, 마지막에 출력층 $\hat{y}$이 있다. 일반적으로 Layer의 개수를 셀 때는 입력층을 제외하고 센다. 엄밀히 말하면 출력층 $\hat{y}$은 $h_{L}$이라 할 수 있다. 윗 첨자($^{[n]}$)는 각 Layer에서의 원소 인덱싱이 될 것이고, 입력층에서는 feature가 된다. $n_{i}$는 $i$번째 Layer의 원소 개수를 뜻한다. 심층신경망 모델을 프로그래밍 할 때, 파라미터 행렬들($W, B$)의 크기가 많이 헷갈리므로 잘 기억해두길 바란다.

 출력층 $h_{L}$을 제외한 모든 층에서는 Relu함수를 활성화 함수로 사용하겠다. 또한, 이해하기 쉽게 각 층을 Linear Function과 Activation Function 두개로 나누어 생각하겠다. 오류 역전파(Step 3)에서 설명할테지만 $\frac { \partial J }{ \partial W } =\frac { \partial J }{ \partial z } \frac { \partial z }{ \partial W }$으로 $dW$를 구하기 위함이다. 하여, 은닉층에서의 Forward propagation의 일반식은 $h_{i+1}=relu(W_{i+1}h_{i}+B_{i+1})$이 된다.

 이번 실습도 Cat vs Dog 데이터셋에서 수행할 것이므로 출력층에서 Label의 개수 $n_{L}$은 1개이다. 따라서 출력층의 활성화 함수는 이진분류에 적합한 $sigmoid$ 함수를 사용하겠다. 출력층의 일반식은 $\hat{y}=h_{L}=sigmoid(W_{L}h_{L-1}+B_{L})$이 되겠다.

Step 2. 손실함수 정의

 전체 학습데이터에 대한 손실함수($J$)는 하나의 데이터에 대한 손실함수 ($L$)의 평균으로 정의할 수 있다. 전체 시스템은 데이터의 수 만큼(문제의 수) 총 $m$번의 학습이 진행될 것이다. 

$$J=\frac{1}{m}\sum _{ i=0 }^{ m-1 }{ \mathcal{L}(y^{i}, \hat{y}^{i}) } $$

$$\mathcal{L}= −ylog(\hat{y})−(1−y)log(1−\hat{y}))  $$

Step 3. 오류 역전파(Backpropagation)로 미분식 풀기 

 아마 오류 역전파(Back propagation)이라는 것을 많이 들어봤을 것이다. Step1에서 입력->출력 방향으로 전파되는 것을 Forward propagation라고 했었다. 반대로 미분식을 풀기 위해서는 출력->입력 방향으로 수식이 전개 되는데 이것을 Back propagation 라고 한다. 단일퍼셉트론과 마찬가지로 손실함수 $J$를 최소화 하는 미분식부터 구하게 된다. 사실 단일퍼셉트론을 이해했다면 심층 신경망 유도는 쉬울것이다. 

 먼저 하나의 데이터에 대한 손실함수 $\mathcal{L}$를 최소화 하는 $L-1$층의 파라미터의 편미분값을 구해보자. 아래 그림에서 Back propagation방향은 빨간색으로 그렸다.  단일퍼셉트론에서 했던 최적화 과정과 동일하게 $\frac{\partial \mathcal{L}}{\partial z_{L-1}} $을 구할 수 있으며 연쇄법칙으로 $\frac{\partial \mathcal{L}}{\partial B_{L}} $과 $\frac{\partial \mathcal{L}}{\partial W_{L}} $을 구할 수 있다. Back propagation을 위해 다음 Layer에 넘길 $\frac{\partial \mathcal{L}}{\partial h_{L-1}} $ 또한 요구된다. 

 아래는 은닉층에서의 Back propagation에 대한 설명이다. 출력층->$i_{th}$Layer까지 전파(propagation)가 이루어졌다면 $\frac{\partial \mathcal{L}}{\partial h_{i+1}} $의 값을 넘겨받았을 것이다. $Relu(x)$함수의 미분은 $1(x>0)$ 또는 $0(x\leq 0)$이 된다. 나머지 파라미터 ($W, B$)는 위와 동일하게 진행된다. 개념은 그리 어렵지 않을 것이다. 여기서 눈치가 좋은 사람이라면 $Relu(x)$의 미분이 0을 반환하는 것에 주목할 것이다. 이것이 저번 포스팅에서 설명한 "Dying Relu Problem"이다.

Step 4. 행렬식으로 풀기

 이제 모든 $m$개의 데이터를 한번에 트레이닝 하기 위하여 벡터화(Vectorization) 하면 아래와 같이 모든 Layer가 행렬을 이루게 된다. 역시 우리가 할 실습에 따라서 그림은 $n_{L}=1$로 그렸다. 아래 그림에서 대괄호아래첨자($[]_{i}$)는 데이터 순번 인덱싱이다. 

위의 모델을 Back propagation 하게되면 아래와 같이 되는데 자세한 설명은 동영상 강의를 참고하길 바란다. 

동영상 강의: 준비중...

1. 활성화 함수

 활성화 함수(Activation Function)는 신경학적으로 볼때 뉴런발사(Firing of a Neuron)의 과정에 해당한다고 볼 수 있다. 최종출력 신호를 다음 뉴런으로 보내줄지 말지 결정하는 역할을 하게 된다.

Firing of a neuron 출처: Andrii Vodolazhskyi via Shutterstock

 뉴런이 다음 뉴런으로 신호를 보낼 때 입력신호가 일정 기준 이상이면 보내고 기준에 달하지 못하면 보내지 않을 수도 있다. 그 신호를 결정 해주는 것이 활성화 함수(Activation Function)라 이해하면 된다. 많은 종류의 활성화 함수가 있고, Activation function의 결정이 결과에 크게 영향을 준다. 하나하나 알아보도록 하자.

- 선형함수 (Linear Function)

 선형함수는 말 그대로 직선적인 함수($y=x$)이다. 결론부터 말하면 Linear Function를 활성화 함수로 하게되면 "Deep"한 네트워크의 이점이 전혀 없다는 것이다. 아래의 2-Layer 모델을 예로 들어보자.

 2개의 Layer를 쌓아봤지만 $X$에 곱해지는 항들은 $W$로 치환가능하고, 입력과 무관한 상수들은 전체를 $B$로 치환 가능하기 때문에 $WX+B$라는 Single layer perceptron과 동일한 결과를 낸다. 다시말해 Deep 하게 쌓는 의미가 없어진다.

linear Function

- 계단함수 (Step Function)

 입력이 양수일때는 1(보낸다)을 음수일때는 0(보내지 않는다)의 신호를 보내주는 이진적인(Binary) 함수이다. 직관적으로는 상당히 좋다. 0이상이면 출력하고 0이하면 뉴런을 죽이고 하지만 우리가 모델 Optimization과정에서 미분을 해야하므로 미분이 되지않는 이녀석은 쓸 수가 없다.

Step Function

- Sigmoid Function 

 지난 포스트04 단일퍼셉트론에서 사용했던 활성화 함수이다. 입력을 ($0, 1$) 사이의 값으로 normalize해준다.  과거에 상당히 인기가 있었던 활성화 함수이다. sigmoid의 수식과 그 미분은 아래와 같다.

$$sigmoid(x)=\frac { 1 }{ 1+{ e }^{ -x } } $$

$$\frac { d }{ \partial x } sigmoid(x)=\frac { 1 }{ 1+{ e }^{ -x } } \left( 1-\frac { 1 }{ 1+{ e }^{ -x } }  \right)$$

 아주 아름답게$(A'=A(1-A))$로 미분이 되어 코드로 구현하기가 쉽다. 이런 완벽해보이는 매력적인 함수지만 문제점이 있다. 바로 Gradient Vanishing인데 아래의 tanh함수부터 소개하고 설명하겠다. $x$가 0일때 기울기가 최대가 되는데, 그 미분값이 $\frac{1}{4}$이다. 딥러닝을 하기 위해서는 Layer를 많이 쌓아야 하는데 이렇게 작은 미분 값은 에너지함수 최적화 과정에서 Layer을거쳐갈 때마다 곱하기 연산을 거쳐 deep할 수록 기울기가 사라져 버리는 Gradient Vanishing을 야기 시킬 수 있다. 1~2개의 Layer에서는 사용할 수 있겠지만 Deep한 학습법에서 사용하는 것은 추천하지 않는다. 

Sigmoid Function

- tanh Function

 sigmoid fuction을 보완하고자 나온 함수이다. 입력신호를 ($-1, 1$) 사이의 값으로 normalization 해준다. 거의 모든 방면에서 sigmoid보다 성능이 좋다. 수식은 아래와 같다.

$$tanh(x)=\frac { { e }^{ x }-{ e }^{ -x } }{ { e }^{ x }+{ e }^{ -x } } $$

$$\frac{d}{dx}tanh(x)=1-tanh(x)^{2}$$

 기울기가 최대인 $x$가 0인 지점의 미분값은 1이 된다. 그럼에도 불구하고 Gradient Vanishing문제가 발생하게 된다. sigmoid 함수보다는 덜함

Tanh Function

Gradient Vanishing

 sigmoid와 tanh함수 모두 $x$가 0일때 기울기가 최대가 되는데, 그 미분값이 $sigmoid'(0)=\frac{1}{4}, tanh'(0)=1$이다. 학습을 더 잘 하기 위해서는 Layer를 많이 쌓아야 하는데 이렇게 작은 미분 값은 에너지함수 최적화 과정에서 Layer을 거쳐갈 때마다 곱하기 연산을 거쳐 deep할 수록 기울기가 사라져 버리는 것이 Gradient Vanishing이다. 아래의 deep 모델이 있다고 하자.

 backpropagation에 따라 $\frac{dY}{dw_{1}}$을 구하면,

$$\frac { dY }{ d{ w }_{ 1 } } =\frac { dY }{ dh_{ n } } \frac { dh_{ n } }{ d{ h }_{ n-1 } } ...\frac { dh_{ 2 } }{ dh_{ 1 } } \frac { dh_{ 1 } }{ d{ w }_{ 1 } } $$

 Hidden Layer와 Hidden Layer사이에 미분을 하게 되면 활성화 함수의 미분이 반드시 들어가게 되는데 1이하의 실수가 n번 곱해지면 결국에는 0으로 수렴하게 될 것이다. 비슷한 문제로 미분값이 1 이상이면 Gradient Exploding문제가 발생하는데 이것 또한 1이상의 실수가 $n$번 곱해져 발산해버리는 것이다.

- ReLU Function (Rectified Linear Unit)

 현재 가장 인기있는 활성화 함수인 ReLu는 양수에서 Linear Function과 같으며 음수는 0으로 버려버리는 함수($Relu(x)=max(0, x)$)이다. 우선, 기울기(미분값)가 0 또는 1의 값을 가지기 때문에 Sigmoid Function에서 나타나는 Gradient Vanishing 문제가 발생하지 않는다. 언뜻 보기에는 Linear Function과 같은 문제가 없을까 생각이 들 수 있지만 엄연히 Non-Linear함수 이므로 Layer를 deep하게 쌓을 수 있다. 또한 exp() 함수를 실행하지 않아 sigmoid함수나 tanh함수보다 6배 정도 빠르게 학습이 된다고 한다. 

Relu Function

1. 퍼셉트론(Perceptron)

 언젠가 후배와 SF영화 이야기를 하다가 컴퓨터로 인간의 뇌를 모방하여 가상뇌를 구현했다는 소리를 들었었다. 어떻게 뉴런 하나하나를 만들어서 뇌를 모방했을까? 반신만의 했었는데 지금 내 눈앞에 있네 ㅋ 하나의 퍼셉트론은 인간의 뇌의 뉴런 하나에 해당한다고 이해하면 된다. 수많은 뉴런들이 우리의 뇌를 구성하고 있듯 딥러닝을 이해하기 위한 가장 기본적인 개념인 퍼셉트론에 대해 아라보자. 

 퍼셉트론 하나로만 이루어진 모델을 단층 퍼셉트론(Single Layer Perceptron)이라고 하며 이는 입력을 두 부류로 나누는 것이다. 단층 퍼셉트론은 선 하나로만 데이터의 경계를 구분지을 수 있다. 어려운 말로 선형분류  

 중학교때 배운 직선 방정식을 떠올려보면 $y=ax+b$라는 익숙한 방정식을 떠올릴 것이다. 그럼 고등학교에서 배운 평면 방적식은 어떤가? $y=ax+by+cz+d$이다. 직선 방정식에 $z$차원이 추가되니 직선이 3차원으로 쌓여 평면을 이룬 것이다. 앞으로 우리는 3차원 이상의 다차원 공간에서 함수를 정의할 것이다. 이렇게 n개의 일차변수들로 이루어진 함수를 초평면(Hyper Plane)이라고 한다. 

 아래는 단일 퍼셉트론의 예시이다. $x_{0}, ..., x_{n-1}$는 입력데이터이고 이것을 행렬로 표현(벡터화, Vectorization)하면 $x$라 할수있다. 우리가 얻어야할 파라미터 $w_{0}, ..., w_{n-1}$는 각각 $x$의 원소에 곱해져야 한다. 파라미터 또한 벡터화 하여 $w$로 표기할 수 있다.

$$x=\{x_{0}, ..., x_{n-1}\}, w=\{w_{0}, ..., w_{n-1}\}$$

 $b$는 편향(Bias)이다. 입력 $x$를 파라미터 ($w, b$)로 변형을 시켜 활성화 함수(Activation Function) $\sigma$를 거치며 $\hat{y}$를 출력한다. Activation Function에 대한 자세한 설명은 다음 포스트에서 하겠다. 

 주어진 입력 $x$으로 학습된 파라미터 $w$를 이용하여 $wx+b>0$이라면 Class 1이 할당되고, $wx+b<0$이라면 Class 2에 할당되도록 할 수 있겠다. 이제 선형분류라는 용어가 직관적으로 다가올 것이다. 그러면 최적의 $w$를 찾아보자.

 그러면 종이를 한장씩 꺼내서 간단한 예제를 풀어봅시다. 지난 포스트(#03)를 이해하지 못했다면 따라오지 못할 수 있다. 활성화 함수 $\sigma$가 무식하게 생겨서 겁을 먹을 수 있지만 관대한 눈길로 넘어가주자. Training data는 $m$개의 데이터와 특징 $x$와 정답 $y$로 이루어진 테이블이다. 

Step 1. 손실함수 정의

 전체 학습데이터에 대한 비용($J$)은 하나의 데이터에 대한 손실함수 ($L$)의 평균으로 정의할 수 있다. 전체 시스템은 데이터의 수 만큼(문제의 수) 총 $m$번의 학습이 진행될 것이다. 현재의 $w$을 사용하여 도출해 낸 결과 $\hat{y}$과 실제 정답 $y$와의 오차를 평균 낸 것이다. 손실함수 $L$은 교차 엔트로피 오차를 사용하였다. 위의 문제는 여자($\hat{y}=0$)인지 남자인지($\hat{y}=1$) 두개의 클래스(Label)를 결정짓기 위한 것이므로 Cross entropy가 좋다.

$$J=\frac{1}{m}\sum _{ i=0 }^{ m-1 }{ L(y^{i}, \hat{y}^{i}) } $$

$$L= −ylog(\hat{y})−(1−y)log(1−\hat{y})  $$

Step 2. 미분식 풀기

 경사하강법(Gradient Descendent)을 하기 위해 손실함수($L$)에 대해 파라미터로 미분한 $\frac { dL }{ dw } $와 $\frac { dL }{ db } $를 구해야 한다. (여기서 $i$는 학습 횟수 $i$번째 학습)

$$\overset { i+1 }{ w } =\overset { i }{ w } -\alpha\nabla \frac { dL }{ d\overset { i }w }, \overset { i+1 }{ b } =\overset { i }{ b } -\alpha\nabla \frac { dL }{ d\overset { i }b } $$

 하지만 함수 $L$ 안에서는 $w$가 보이지 않는다. 이때 필요한 것이 고등학교 미분시간에 배운 연쇄법칙(Chain Rule)이다. (여기서 $i$는 데이터의 인덱스 쉽게말해 순번)

$$ \frac { dL }{ dw } =\frac { d{ L } }{ d\hat { y }^{ i }  } \frac { d\hat { y }^{ i }  }{ dw } = \frac { d{ L } }{ d\hat { y }^{ i }  } \frac { d\hat { y }^{ i }  }{ dz^{ i } } \frac { dz^{ i } }{ dw } $$

$$\frac { d{ L } }{ dB  } = ... =\frac { d{ L } }{ d\hat { y^{ i } }  } \frac { d\hat { y }^{ i }  }{ dz^{ i } } \frac { dz^{ i } }{ dB } $$

 위와 같이 미분식을 정리했다면 미분식을 하나하나 전개해보도록 하자. 

$$\frac { dL }{ d\hat { y^{i} }  }=-\frac { y^{ i } }{ \hat { y } ^{ i } } +\frac { 1-y^{ i } }{ 1-\hat { y } ^{ i } } $$

$$\frac { d\hat { y^{i} }  }{ dz^{i} }=\sigma(z^{i})(1-\sigma(z^{i}))=\hat{y}^{i}(1-\hat{y}^{i}) $$

$$ \frac { dz^{i} }{ dw }=x^{i}, \frac { dz^{i} }{ dB }=1 $$

 $\sigma$의 미분은 아래에 있으니 심심하신 분들은 한번 안보고 풀어보시길ㅋ

 이제 모두 합쳐보쟈. 행렬식으로 표현할 수도 있다. 행렬식으로 정리할때의 장점은 다음 실습 포스트에서 설명하겠다. 

$$\frac { dL }{ dw }=\frac { 1 }{ m }\sum {(\hat{y}^{i}-y^{i})x^{i}} = \frac { 1 }{ m }X^{T}(\hat{Y}-Y)$$

$$\frac { dL }{ dB }=\frac { 1 }{ m }\sum {(\hat{y}^{i}-y^{i})x^{i}} = \frac { 1 }{ m }(\hat{Y}-Y)$$

 이렇게 $\frac { dL }{ dw }$와 $\frac { dL }{ dB }$를 구했다면 여러번 반복(Iteration)하면서 Gradient Descendent 공식에 맞도록 $w$와 $b$를 Update해주면 된다. 여러~번 반복하다보면 수렴할텐데 그러면 학습이 완료된 것으로 판단하고 학습이 잘 되었는지 시험(Test)을 치뤄야 한다. 당연히 시험에는 정답($y$)이 없다. 아래의 임의의 행인의 키와 몸무게로 성별을 판별하는 Test를 진행할 수 있다. 물론 최종 출력물인 $\hat{y}$의 값은 sigmoid함수를 통과하면서 $0$~$1$사이의 float값이 나오는데 0.5를 기준으로 $\hat{y} > 0.5$이면 여자($\hat{y}=0$), $\hat{y}<=0.5$이면 남자($\hat{y}=1$)라고 해준다. Threshold 라고 함

동영상 강의: 준비중...

1. 최적화

 우리가 시험공부를 할때 어떻게 하는가? 시험에 나올만한 문제를 풀어본 후 채점도 하고 오답노트도 써가며 학습(Train)을 할 것이다. 공부를 하면서 모의 시험을 봤는데 50점이 나오면 마음편히 잘것인가? 조금 더 공부를 할 것인가? 몇사람 제외하고는 대부분 밤을 새서라도 공부를 더 할 것이다. 머신러닝도 마찬가지로 내가 설계한 모델과 실제 데이터와의 차이가 얼만큼 나는가 채점 해보는 것이 필요하다. 에너지함수(Energy Function)라고도 하며 손실함수(Loss Function)라고도 하며 비용함수(Cost Fucntion)라고도 하는데 모델의 출력과 정답을 대조해가며 채점하는 과정이다. 채점결과 만족스러운 결과가 나오면 학습을 멈추게 된다.

Slide by 마음의소리 at Naver Webtoon

 간단하게 손실함수(Loss function)를 정의해 보자면 $\mathscr{L}=(y-f(x))^2$ 라고 할 수 있겠다. $y$는 정답이고, $f$는 내가 설계한 모델이며, $x$는 시험문제가 되겠다. 뉘앙스로 볼 때 손실($\mathscr{L}$)이라는 것은 최소가 되어야 좋은 것이라 할 수 있다. 오차가 클 수록 손실이 많아지고, 오차가 적을수록 손실이 적어져 $\mathscr{L}$을 최소화 하는 모델이 강제된다. 2차함수로 손실함수를 정의한 까닭은 손실함수를 최소화 하기 위해서는 오목하거나 볼록한 모양의 함수꼴(Convex Function)이 되어야 한다. 

Slide by Wikipedia

 자주 사용하는 에너지 함수를 소개해본다. 학습 데이터는 총 $n$개이며 $i$는 데이터의 순서이다. 평균제곱 오차는 가장 직관적인 함수로 오차가 작으면 에너지가 낮아지는 것을 한번에 알 수 있다. 

1) 평균 제곱 오차, MSE(Mean Squared Error) 

$$\mathscr{L}=\frac { 1 }{ n } \sum _{ i=0 }^{ n-1 }{ { \left( y^{i}-f(x^{i}) \right)  }^{ 2 } } $$

 교차 엔트로피의 경우는 알아서 최대우도추정(Maximum Likelihood Estimation) 방법을 찾아보면 되겠다. 간단히 설명하면 우도(Likelihood)를 Bernoulli 분포로 표현하여 음수를 취한 형태이다.

2) 교차 엔트로피 오차, CEE(Cross Entropy Error)

$$ \mathscr{L}=-\sum _{ i=0 }^{ n-1 }{ \log { (f(x^{i})) } *y^{i} }  $$

2. 경사하강법(Gradient Descendent)

 최소화 하는 방법으로는 경사하강법(Gradient descendent)이 대표적이다. 말 그대로 경사를 따라 하강하여 수렴(Converge)할 때까지 반복(iteration)을 수행한다. 고등수학에서 배운 미분을 생각해보자. 기울기가 +라는 것은 증가하는 함수라는 의미이고, 기울기가 -라는 것은 감소하는 함수라는 의미이다. 그렇다면 함수를 최소화 하는 극점으로 가기 위해서는 기울기의 반대방향으로 가야한다. 극점에 수렴(Convergence)하여 시험결과에 만족했다면 학습을 마칠것이다.

 수식으로 표현하면 ${ x }_{ i+1 }={ x }_{ i }-\alpha \nabla { x }_{ i }$이다. $x$는 학습할 대상(파라미터)이며 $i$는 반복횟수를 뜻하고 $\alpha$는 학습률(Learning Rate)이라 하여 학습이 반영되는 정도를 뜻한다. 학습률이 너무 크면 수렴하지 않고 무한루프(진동)상태에 빠질 수 있는데 훗날 다시 설명하도록 하겠다.

3. Local Minimum

 수치해석 분야에 있어서 Local Minimum은 골머리 썩는 문제다. 아래 그래프에서 시스템 전체에 대한 해인 Global Minimum에 다다르기를 기도하며 모델을 만들었을 것이다. 하지만 어느위치에 Global Minimum이 있는지 알 수 없으므로 우리는 시작점을 임의로 결정할 수 밖에 없다. 만약 시작점이 A에 잡혔으면 땡큐하고 Global Minimum의 해로 찾아들어갈 것이다. 하지만 시작점이 B로 잡히게 되면 Local Minimum에 수렴하여 아무리 여러번 반복(Iteration)하여 학습을 한다해도 제대로 된 학습이 불가능할 것이다. 이를 해결하기 위해서는 초기값을 잘~ 잡아줘야 하는 수밖에 없다. 

 추가로 2014 NIPS에서 Dauphin이 말하기를 딥러닝과 같은 고차원 모델에서는 Local minimum이 아닌 안장점(Saddle Point)의 구조에서 정착이 발생한다 밝히고 이를 해결하는 알고리즘을 제시했었다. 참고하길 바란다. 

"Identifying and attacking the saddle point problem in high-dimensional non-convex optimization." NIPS2014, Dauphin, Yann N., et al

동영상 강의: https://www.youtube.com/watch?v=1tGxvS5Y4uM

1. 특징(Feature)

 아래 그림을 보자. 뽀족한 귀와 귀여운 조동이와 날개와 다리를 보고 개새 라는 것을 우리는 알 수 있다. 지난 포스트에서 말한 특징(Feature)이라는 것이 바로 이런 것이다. 특징은 그 동안 우리가 경험적으로 학습한 대상들의 부분적인 조각들이며 우리는 특징들을 조합함으로써 대상을 분별한다. 만약 다리와 날개의 특징만 가지고 위의 사진을 보았다면 개새라고 판별할 수 없을 것이다. 즉, 대상의 정확한 판단을 위해서는 적절한 특징을 정의해야 한다. 

개새

 선형회귀(Linear Regression)를 예를 들어 봅시다. 선형회귀를 간단하게 표현하자면 우리나라의 유서깊은 얼중의 하나인 붕당정책과 비슷하다. 선 하나를 가지고 2가지 클래스를 나누는 것이다. 어느 선을 기준으로 이쪽은 아군 저쪽은 적군 인것이다. 

 남고생 10명과 여고생 10명을 구분하기 위한 특징으로 체중과 키를 사용한다면 어느정도 일반화할 수 있을 것이다. 허나 아직 2차성징이 오지 않은 초등학교 저학년들을 대상으로 한다면 아래 그림과 같이 제대로 구분하지 못할것이다. 노란선을 기준으로 아래에 위치한 데이터는 여자(뻘겅색), 위에 위치한 데이터는 남자(퍼렁색)로 구분한다. 기존의 20명으로만 학습된 모델(노랑 선)을 가지고 성별을 모르는 전학생(초록색)의 성별을 판별할 수 있을까? 정답은 여러분의 마음속에

 데이터를 다루는 분야에 자주 언급되는 차원의 저주(Curse of Dimensionality)라는 용어가 있다. 위의 그래프를 예시로 들면 두가지의 특징이 사용되었고 각 특징은 하나의 차원(그래프의 축)을 이루며 직교하는 두 선분의 평면위의 점 하나가 하나의 데이터(학생한명)라고 할 수 있다. 즉, 특징의 개수가 차원의 크기라 할 수 있다. 데이터를 표현하는 차원(Feature)이 많으면 많을수록 대상을 더욱 정밀하게 표현할 수 있고 분류하기가 수월해진다. 하지만 무작정 차원이 크다고 다 좋은것만은 아니다. 차원이 크면 클수록 데이터를 학습하는 것이 복잡해지고 보다 많은 데이터가 필요하다. (차원이 증가될 수록 $2^n$배의 학습데이터가 필요함)

 초딩 20명을 키(x축)와 몸무게(y축)로만 구분하면 선 하나로 구분이 힘들었었다. "여자아이들이 남자아이들보다 머리카락이 길다." 라는 가정 하에 위의 분포에 머리카락 길이(z축)의 Feature만 추가해준다면 더욱 좋은 구분이 가능해질것이다. 3차원에서는 선 방정식 -> 평면방정식 이된다. 3차원 이상의 $n$차원에서는 초평면(Hyperplane)이라 한다.

2. 학습(Learning)은 어떻게 이루어질까요?

1. 지도학습(Supervised Learning)

 지도학습은 학습할 때, 사람이 학습 데이터의 정답(Label)을 알려주고 학습 모델이 학습 데이터가 정답(Label)에 가까워지도록 조정해가며 학습을 진행한다. Supervisor는 사전적으로 감독자 라는 의미로 감독자가 문제의 정답(Label)을 알려주면서 학습을 진행한다는 것이다. 감독자의 역할을 하기 위해 사람이 데이터 하나하나 정답(Label)을 달아줘야 하므로 여간 귀찮은 작업이 아닐 수 없다. 하물며 오버피팅이라는 문제를 피하기 위해 학습 데이터의 양이 어마어마하다. 지도학습은 어떤 데이터가 어떤 Label을 가지는지 분류(Classification)하는 것이 특징이다. 

Slide by Wikipedia

2. 비지도학습(Unsupervised Learning)

 지도학습과는 반대로 감독자가 없는 정답(Label)이 필요 없는 학습법이다. "선생은 필요없어 나 혼자 한다" 이런 느낌 예를들어 지네, 돈벌레, 파리 사진을 비지도학습 시킨다고 해보자. 어떤 사진에 무슨 벌레인지 정답(Label)을 알려주지 않았기 때문에 이 사진이 어떤 벌레인지 컴퓨터가 정의 할 수 없다. 하지만 비슷한 단위로 벌레들을 묶어 군집화(Clustering) 할 수 있다. 다리가 많은 돈벌레와 지네를 한 분류로 묶고, 날개의 유무로 파리를 또 다른 분류로 나누어 놓을 것이다. 

3. 강화학습(Reinforcement Learning)

 주로 게임이나 로봇제어같은 최적의 동작을 찾는데 쓰는 학습 방식이다. 상과 벌이라는 보상(reward)을 주며 상을 최대화하고 벌을 최소화 하도록 하는 학습하는 방식이다. 마치 우리가 어릴적 잘못을 하면 벌을 받고 잘 하면 칭찬받는 것 처럼 많은 시행착오를 경험하고 그에 따른 대처법을 학습하는 것이 강화학습이다. 우리는 지금까지의 행동들에 대해 옳고 그름을 판단 받으며 특정 행동에 대한 옳고 그름을 스스로 결정 할 수 있게 되었다. 이러한 시행착오를 겪으며 경험이 쌓이고, 확실하게 경험했던 것에 대해서는 옳고 그른지 판단 할 수 있으며 실수도 잘 하지 않는다. 하지만 여전히 경험해보지 못한 부분에 대해서는 대처능력이 현저히 떨어지게 된다. 이전 포스트의 알파고 제로가 이에 해당한다.

Slide by DeepMind Technologies Limited

영상강의: https://www.youtube.com/watch?v=TfSLdjDjZCQ&feature=youtu.be

 컴퓨터비전을 전공하면서, 딥러닝과 많은 연관이 있어 "님 그럼 딥러닝 엄청 잘하시겠네여ㅋ" 라는 질문을 많이 받았다. 허나 딥러닝에 관하여 일자무식이었기 때문에 느즈막히 딥러닝에 발을 들여 포스팅을 시작한다.

 새로운 마음으로 딥러닝의 정의부터 알아봅시다.

1. 딥러닝 = 블랙박스?

 딥러닝이 뭔지 물어본다면 가장 알기 쉽게 설명할 수 있는 것이 Black Box일 것이다. 안에서 무슨 일이 일어나는지 정확히 알지 못한다는 것이다. 딥러닝 모델(Black Box)의 껍데기만 잘 만들어주고 학습데이터(Training data)를 적절히 넣어주면 최적의 파라미터를 알아서 잘 찾아준다. 그렇게 찾은 파라미터로 테스트 데이터(Input)를 넣어 우리가 원하는 출력(Output)을 기대할 수 있는 것이다.

Slide by Alex Poon at slideshare.net

2. 흔히들 말하는 용어인 인공지능과 머신러닝은 무슨 차이가 있을까?

 인공지능(Artificial Intelligent, AI)은 인간이 지닌 지적 능력의 일부 또는 전체를 인공적으로 구현한다는 의미로 가장 큰 개념이다. 

 머신러닝(Machine Learning)은 인공 지능의 한 분야로써 컴퓨터가 학습할 수 있도록 알고리즘을 개발하는 분야를 말한다.

 딥러닝(Deep Learning)은 머신러닝을 위한 하나의 기술적모델에 불과할 뿐이다.

Slide by Byoung-Hee Kim, Jiqiong Qiu at slideshare.net

3. 특징(Feature)이란?

 몸으로 말해요 게임을 할 때, 대상을 묘사하기 위해서는 서로가 공통으로 경험한 특징을 엄선하여 또한 특징을 잘 살려 설명해야 한다. 이수근씨는 특징의 선택과 표현에 있어서 탁월한 능력을 가졌다 볼 수 있다. 

 데이터 과학에서도 특정 데이터를 묘사하기 위해 특징(Feature)을 정의한다. 데이터를 분별하기 위해 각 특징에 가중치가 곱해지는데 곱해지는 값을 파라미터라고 한다. 를 최대한 잘 학습시키는 시도가 머신러닝이다. 머신러닝에서는 사람이 직접 특징을 정해주는데 그 특징을 handcrafted feature라 한다. 당연히 좋은 Feature를 찾기 위해 수많은 연구와 노력이 있었다. 컴퓨터 비전 분야에서는 윤곽(Edge), 꼭지점(Corner) 등 직관적인 Feature를 예로 들 수 있다. 딥러닝에서는 컴퓨터가 스스로 특징을 추출할 수도 있는데 간혹 인간의 경험적 범주를 넘어서 새로운 패러다임을 제시하는 Feature가 되는 경우도 있다. 

2. 딥러닝의 역사

 딥러닝이 처음부터 각광받았던 것은 아니었다. 1940년대에 인공신경망(Artificial Neural Network, ANN)이 나오고 1980년대에 Back Propagation 최적화 방법이 나왔다. 신경망의 층(Layer)이 깊을 수록 데이터를 일반화 하는 것에 유리하다고 알려지자 딥러닝에 관하여 많은 연구가 진행되었다. 하지만 딥러닝 모델을 설계했다 하더라도 방대한 처리량을 따라올 수 없는 하드웨어와 수학적 최적화 이론들이 적립되지 않아 연구의 한계에 이르렀다. 2000년도 중반에서야 Unsupervised pre-training, dropout, ReLU 등.. 이론적 기반이 쌓이고 무엇보다도 하드웨어 스펙이 비약적인 성장을 함에 따라 딥러닝이 각광을 받게 된다. 

2. 알파고

 2016년 3월에 전세계가 주목했던 알파고와 이세돌 구단의 대국이 있었다. 이세돌 구단이 알파고에게 3연패를 하고, 제 4국에서 불계승 하며 우리나라는 "두유노 세돌리?"라는 국뽕에 취하게 된다. 알파고는 인간의 16만개의 기보를 학습하여 기존 상용 바둑 프로그램과 494승 1패를 기록하였다. 이세돌 구단이 16만개의 기보 속에서도 관측되지 않았던 수를 둔 것은 경이로운 일이 아닐 수 없다. 당연 '신의 78수'가 아니더라도 알파고를 이길 수 있는 수는 분명 존재한다.

Image by 연합뉴스

  알파고는 지도학습(Supervised Learning)으로 학습하였는데 간단히 말해 사람들이 두었던 대국을 학습 데이터로 하여 학습을 진행했다는 것이며, 이는 사람들의 습관, 공식, 패러다임 안에서 최적의 해를 찾았을 것이다. 이세돌 경기 이후 알파고는 계속 진화해 갔다. 커제를 꺾었던 "알파고 마스터"가 지도학습으로 학습한 알파고의 최종 진화버젼이라고 하자. 이것 마저도 제껴버리는 놈이 나왔는데 그놈은 바로 "알파고 제로"이다. 알파고 제로는 강화학습(Reinforcement learning)으로 학습되어진 놈인데 인간의 기보를 사용하지 않고 바둑의  이치를 스스로 깨우친 현자이다. 72시간(490만판)의 독학으로 이세돌과 대국을 벌인 알파고와 100전 100승을 기록했고 40일(2900만판)의 독학으로 알파고 마스터를 100전 89승 11패로 발라버렸다.

 기존의 많은 머신러닝 연구자들이 딥러닝에 현자타임을 느낀 것이 이것이 아니었을까 생각한다. 뿌리 깊게 진리라 생각해 왔던것을 고작 40일만에 깨져버린 것이 누군가에게는 도전이 되었을 것이고 누구에게는 상실이 되었을 것이다. 나의 삶 속에서도 알게모르게 전통과 관습이 중대한 결정을 내리는데 기준이 된다. 이것이 나쁘다는 것이 아니라 시선을 좀더 다양하게 볼 수 있으면 더 많은 것을 경험할 수 있지 않을까 생각해본다. 

영상강의: https://youtu.be/Oj4-Wv9yHJo