하루에 빵코 한입

 딥러닝 포스트 04까지 이해하는 것을 권장한다.

 이진분류(Binary Classification)를 목적으로 한 단층퍼셉트론(Single Layer Perceptron)을 만들어보자. 데이터셋은 Kaggle의 cat vs dog Conpetition에서 제공하는 데이터셋을 사용했다. 링크

Cat images

Dog images

 모델을 설계하기에 앞서 영상의 구성요소는 가로(width), 세로(height), 색깔(RGB)이 있다. 데이터셋에 있는 영상이 각각 다른 크기를 가지고 있어 가로, 세로를 ($100 \times 100$)으로 통일시켜주었다. 개와 고양이 영상이 각각 $12,500$장씩 있는데 우리는 간단한 모델을 학습하니 개와 고양이 영상을 각각 $300$장으로 샘플링하여 학습데이터로 삼고, 개와 고양이 각각 $100$장씩을 테스트데이터로 하겠다. 데이터는 CSV 파일로 관리하는 것이 좋은데 다음 포스트를 참고하길 바란다. ---> 링크(작성중..)

 이번 실습은 맛보기용이므로 간단하게 모델을 설계하겠다. ($100 \times 100 \times 3$)의 영상을 ($30,000 \times 1$)의 벡터로 펼쳐 입력층으로 만들어준다. 그러면 아래와 같은 단일퍼셉트론 모델을 설계할 수 있다. 수식은 04 포스팅과 동일하게 사용하겠다.

 여기서 대문자로 표기한 것들($W, X, B$)은 행렬식이며 각각의 크기는 아래와 같다. ($m$은 학습 데이터 영상의 개수)

$$ W, dW: (30,000 \times 1) $$

$$ X: (30,000 \times m) $$

$$ Y, \hat{Y}: (1 \times m) $$

$$ B, dB: 1 $$

 이제 본격적인 코딩을 시작하겠다. 필요한 Python Library는 (numpy, pandas, matplotlib.pyplot, PIL) 이다. 적당히 구글링해서 까시고.. 필요한 라이브러리를 importing하자.

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from PIL import Image

train.csv

data=pd.read_csv('train.csv', parse_dates=['file_name', 'label', 'str' ])
data_test=pd.read_csv('test.csv', parse_dates=['file_name', 'label', 'str' ])

num_train = np.shape(data)[0]
num_test = np.shape(data_test)[0]
print('training dataset: '+str(num_train))
print('test dataset: '+str(num_test))
data.head()

# resize training dataset
for i in range(0, num_train): 
    im = Image.open(data.file_name[i]+".jpg")
    im = im.resize((100, 100))
    im.save(data.file_name[i]+".png")


# resize test dataset
for i in range(0, num_test): 
    im = Image.open(data_test.file_name[i]+".jpg")
    im = im.resize((100, 100))
    im.save(data_test.file_name[i]+".png")


print('Resizing done')

  Resizing이 잘 되었는지 확인해보자. PLT 라이브러리의 imshow() 함수를 사용하면 좌표평면에 영상을 출력할 수 있다.

index = 6
im = Image.open(data.file_name[index]+".png")
plt.imshow(im)
num_px = np.shape(im)[0]*np.shape(im)[1]*np.shape(im)[2]

 위에 정리한 행렬 크기에 맞게 $X$와 $Y$를 선언해주고, 모든 영상을 펼쳐 $X$에 넣고 정답 Label을 $Y$에 넣는다.

 ($100 \times 100 \times 3$)영상에 reshape(-1) 함수를 적용시키면 모든 픽셀 정보가 일렬로 펼쳐지는 $30000$개의 배열을 반환한다. 

 X[:, i]=im은 i번째 Column에 배열 im을 할당하는 것을 의미한다.

 RGB 3개의 채널이 각각 8bit로 표현이 되며 $0$~$255(2^{8})$ 사이의 값을 가진다. 입력을 0~1 사이로 정규화 하기 위해 행렬 $X$의 모든 원소를 255로 나누어준다.

# for train
X=np.zeros((num_px, num_train))
Y=np.zeros((1, num_train))

for i in range(0, num_train): 
    im = Image.open(data.file_name[i]+".png")    
    im = np.asarray(im)
    im = im.reshape(-1)
    X[:, i] = im
    Y[:, i] = data.label[i]
X=X/255.

# for test
X_test=np.zeros((num_px, num_test))
Y_test=np.zeros((1, num_test))

for i in range(0, num_test): 
    im = Image.open(data_test.file_name[i]+".png")    
    im = np.asarray(im)
    im = im.reshape(-1)
    X_test[:, i] = im
    Y_test[:, i] = data_test.label[i]
X_test=X_test/255.

print('Done!')

def sigmoid(a):
    y = 1/(1+np.exp(-a))
    return y

W=np.zeros((num_px, 1))
B=0
Y_hat=np.zeros((1, num_train))
predict=np.zeros((1, num_train))

# training start
iter = 2000
for i in range(0, iter):
    # forward
    Y_hat = sigmoid(np.dot(W.T, X)+B)      
        
    # backward
    dW = 1/num_train*np.dot(X, (Y_hat-Y).T)
    dB = 1/num_train*np.sum(Y_hat-Y, axis=1)
    
    # update parameters
    learning_rate = 0.005
    W = W-learning_rate*dW
    B = B-learning_rate*dB

    # print cose
    if i % (iter/5) == 0:
        cost = -np.sum(Y*np.log(Y_hat)+(1-Y)*np.log(1-Y_hat))/num_train
        print('cost: ' + str(cost)+ '\t-> ('+ str(i) +' iter)')
cost = -np.sum(Y*np.log(Y_hat)+(1-Y)*np.log(1-Y_hat))/num_train
print('cost: ' + str(cost)+ '\t-> ('+ str(i) +' iter)')

for i in range(0, num_train):
    if Y_hat[0, i] > 0.5:
        predict[0, i] = 1
    else:
        predict[0, j] = 0  
print("train accuracy: {} %".format(100 - np.mean(np.abs(predict - Y)) * 100))

 약 94%로 나름 기대할만한 결과가 나왔다. 다음으로 앞서 따로 구분했던 테스트 데이터를 퍼셉트론 모델에 통과시켜서 정확도를 계산해보자.

predict_test=np.zeros((1, num_test))
Y_hat_test = sigmoid(np.dot(W.T, X_test)+B)
for i in range(0, num_test):
    if Y_hat_test[0, i] > 0.5:
        predict_test[0, i] = 1
    else:
        predict_test[0, i] = 0


print("test accuracy: {} %".format(100 - np.mean(np.abs(predict_test - Y_test)) * 100))

 쓰레기 같은 결과가 나왔다. 단일퍼셉트론의 한계이다. 테스트 결과를 시각적으로 확인하기 위해 아래 코드의 index값을 임의로 정하여 돌려볼 수 있다.

index = 149
A = getim(index)
label = labeling(A)
print('predict: '+str(label) + '\nAnswer: '+str(data_test.str[index]))

 딥러닝의 조상격인 Perceptron에 대한 이해를 충분히 했으리라 믿고 다음 실습에서는 Multi-Layer Perceptron을 구현해보도록 하겠다.

1. 퍼셉트론(Perceptron)

 언젠가 후배와 SF영화 이야기를 하다가 컴퓨터로 인간의 뇌를 모방하여 가상뇌를 구현했다는 소리를 들었었다. 어떻게 뉴런 하나하나를 만들어서 뇌를 모방했을까? 반신만의 했었는데 지금 내 눈앞에 있네 ㅋ 하나의 퍼셉트론은 인간의 뇌의 뉴런 하나에 해당한다고 이해하면 된다. 수많은 뉴런들이 우리의 뇌를 구성하고 있듯 딥러닝을 이해하기 위한 가장 기본적인 개념인 퍼셉트론에 대해 아라보자. 

 퍼셉트론 하나로만 이루어진 모델을 단층 퍼셉트론(Single Layer Perceptron)이라고 하며 이는 입력을 두 부류로 나누는 것이다. 단층 퍼셉트론은 선 하나로만 데이터의 경계를 구분지을 수 있다. 어려운 말로 선형분류  

 중학교때 배운 직선 방정식을 떠올려보면 $y=ax+b$라는 익숙한 방정식을 떠올릴 것이다. 그럼 고등학교에서 배운 평면 방적식은 어떤가? $y=ax+by+cz+d$이다. 직선 방정식에 $z$차원이 추가되니 직선이 3차원으로 쌓여 평면을 이룬 것이다. 앞으로 우리는 3차원 이상의 다차원 공간에서 함수를 정의할 것이다. 이렇게 n개의 일차변수들로 이루어진 함수를 초평면(Hyper Plane)이라고 한다. 

 아래는 단일 퍼셉트론의 예시이다. $x_{0}, ..., x_{n-1}$는 입력데이터이고 이것을 행렬로 표현(벡터화, Vectorization)하면 $x$라 할수있다. 우리가 얻어야할 파라미터 $w_{0}, ..., w_{n-1}$는 각각 $x$의 원소에 곱해져야 한다. 파라미터 또한 벡터화 하여 $w$로 표기할 수 있다.

$$x=\{x_{0}, ..., x_{n-1}\}, w=\{w_{0}, ..., w_{n-1}\}$$

 $b$는 편향(Bias)이다. 입력 $x$를 파라미터 ($w, b$)로 변형을 시켜 활성화 함수(Activation Function) $\sigma$를 거치며 $\hat{y}$를 출력한다. Activation Function에 대한 자세한 설명은 다음 포스트에서 하겠다. 

 주어진 입력 $x$으로 학습된 파라미터 $w$를 이용하여 $wx+b>0$이라면 Class 1이 할당되고, $wx+b<0$이라면 Class 2에 할당되도록 할 수 있겠다. 이제 선형분류라는 용어가 직관적으로 다가올 것이다. 그러면 최적의 $w$를 찾아보자.

 그러면 종이를 한장씩 꺼내서 간단한 예제를 풀어봅시다. 지난 포스트(#03)를 이해하지 못했다면 따라오지 못할 수 있다. 활성화 함수 $\sigma$가 무식하게 생겨서 겁을 먹을 수 있지만 관대한 눈길로 넘어가주자. Training data는 $m$개의 데이터와 특징 $x$와 정답 $y$로 이루어진 테이블이다. 

Step 1. 손실함수 정의

 전체 학습데이터에 대한 비용($J$)은 하나의 데이터에 대한 손실함수 ($L$)의 평균으로 정의할 수 있다. 전체 시스템은 데이터의 수 만큼(문제의 수) 총 $m$번의 학습이 진행될 것이다. 현재의 $w$을 사용하여 도출해 낸 결과 $\hat{y}$과 실제 정답 $y$와의 오차를 평균 낸 것이다. 손실함수 $L$은 교차 엔트로피 오차를 사용하였다. 위의 문제는 여자($\hat{y}=0$)인지 남자인지($\hat{y}=1$) 두개의 클래스(Label)를 결정짓기 위한 것이므로 Cross entropy가 좋다.

$$J=\frac{1}{m}\sum _{ i=0 }^{ m-1 }{ L(y^{i}, \hat{y}^{i}) } $$

$$L= −ylog(\hat{y})−(1−y)log(1−\hat{y})  $$

Step 2. 미분식 풀기

 경사하강법(Gradient Descendent)을 하기 위해 손실함수($L$)에 대해 파라미터로 미분한 $\frac { dL }{ dw } $와 $\frac { dL }{ db } $를 구해야 한다. (여기서 $i$는 학습 횟수 $i$번째 학습)

$$\overset { i+1 }{ w } =\overset { i }{ w } -\alpha\nabla \frac { dL }{ d\overset { i }w }, \overset { i+1 }{ b } =\overset { i }{ b } -\alpha\nabla \frac { dL }{ d\overset { i }b } $$

 하지만 함수 $L$ 안에서는 $w$가 보이지 않는다. 이때 필요한 것이 고등학교 미분시간에 배운 연쇄법칙(Chain Rule)이다. (여기서 $i$는 데이터의 인덱스 쉽게말해 순번)

$$ \frac { dL }{ dw } =\frac { d{ L } }{ d\hat { y }^{ i }  } \frac { d\hat { y }^{ i }  }{ dw } = \frac { d{ L } }{ d\hat { y }^{ i }  } \frac { d\hat { y }^{ i }  }{ dz^{ i } } \frac { dz^{ i } }{ dw } $$

$$\frac { d{ L } }{ dB  } = ... =\frac { d{ L } }{ d\hat { y^{ i } }  } \frac { d\hat { y }^{ i }  }{ dz^{ i } } \frac { dz^{ i } }{ dB } $$

 위와 같이 미분식을 정리했다면 미분식을 하나하나 전개해보도록 하자. 

$$\frac { dL }{ d\hat { y^{i} }  }=-\frac { y^{ i } }{ \hat { y } ^{ i } } +\frac { 1-y^{ i } }{ 1-\hat { y } ^{ i } } $$

$$\frac { d\hat { y^{i} }  }{ dz^{i} }=\sigma(z^{i})(1-\sigma(z^{i}))=\hat{y}^{i}(1-\hat{y}^{i}) $$

$$ \frac { dz^{i} }{ dw }=x^{i}, \frac { dz^{i} }{ dB }=1 $$

 $\sigma$의 미분은 아래에 있으니 심심하신 분들은 한번 안보고 풀어보시길ㅋ

 이제 모두 합쳐보쟈. 행렬식으로 표현할 수도 있다. 행렬식으로 정리할때의 장점은 다음 실습 포스트에서 설명하겠다. 

$$\frac { dL }{ dw }=\frac { 1 }{ m }\sum {(\hat{y}^{i}-y^{i})x^{i}} = \frac { 1 }{ m }X^{T}(\hat{Y}-Y)$$

$$\frac { dL }{ dB }=\frac { 1 }{ m }\sum {(\hat{y}^{i}-y^{i})x^{i}} = \frac { 1 }{ m }(\hat{Y}-Y)$$

 이렇게 $\frac { dL }{ dw }$와 $\frac { dL }{ dB }$를 구했다면 여러번 반복(Iteration)하면서 Gradient Descendent 공식에 맞도록 $w$와 $b$를 Update해주면 된다. 여러~번 반복하다보면 수렴할텐데 그러면 학습이 완료된 것으로 판단하고 학습이 잘 되었는지 시험(Test)을 치뤄야 한다. 당연히 시험에는 정답($y$)이 없다. 아래의 임의의 행인의 키와 몸무게로 성별을 판별하는 Test를 진행할 수 있다. 물론 최종 출력물인 $\hat{y}$의 값은 sigmoid함수를 통과하면서 $0$~$1$사이의 float값이 나오는데 0.5를 기준으로 $\hat{y} > 0.5$이면 여자($\hat{y}=0$), $\hat{y}<=0.5$이면 남자($\hat{y}=1$)라고 해준다. Threshold 라고 함

동영상 강의: 준비중...