01. 얕은 신경망을 이용한 분류와 회귀

Neuron의 표현

Graph의 Node와 Edge를 이용해 표현한다. 여기서 Node는 단일 뉴런 연산을, Edge는 뉴런의 연결성을 의미한다. Node에서는 weight와 입력데이터를 곱하고 그결과들을 모두 더하는 일련의 과정을 모두 포함합니다.

인공신경망

뉴런이 모여서 서로 연결된 형태를 인공신경망(Artificial Neural Network)라고 부릅니다. 딥러닝은 인공신경망을 기반으로한 머신러닝을 말하는 것입니다.

전결합 계층

뉴런이 모인 한 단위를 계층(Layer)라고 하며, 이전 계층과 모든 뉴런이 서로 연결된 계층을 Fully-Connected Layer(Dense Layer)라고 합니다.

얕은 신경망(Shallow Neural Network)

입력, 은닉, 출력의 3가지 계층으로 되어 있는 형태로 Fully Connected Layer인 모델을 말합니다. 입력과 출력간에 상관성 있을 경우, 이를 학습하여 새로운 입력에 대해 출력을 낼 수 있습니다. 즉 학습을 하지 않은 데이터로 적합한 출력을 나타낼 수 있는것을 말합니다.

회귀

잡음이 있는(추정하는 곡선으로 부터 떨어져 있는 모습) 학습 샘플로부터 규칙을 찾아 연속된 값의 출력을 추정하는 것을 회귀라고 합니다. 또는 추세선이라고도 부릅니다.

분류

입력 값을 분석해 특정범주로 구분하는 작업을 분류라고 합니다. 범주가 2개일 경우 이진분류 그 이상은 다중분류 라고 합니다.

얕은 신경망을 이용한 회귀

얕은 신경망의 동작은 출력 계층의 활성 함수에 의해 달라집니다. 회귀는 전 범위의 연속된 값을 출력하므로, 보통 항등함수를 사용합니다.

얕은 신경망을 이용한 분류

이진 분류를 위한 출력은 0~1 사이의 실수 값이며, 활성함수로 Sigmoid function을 사용합니다. 0.5보다 작으면 첫 번째 Class, 0.5보다 크면 두번째 Class로 분류합니다.

얕은 신경망을 이용한 다중 클래스 분류

SoftMax 활성 함수를 이용해 다중 분류 문제를 해결 할 수 있습니다. 각 출력은 해당 Class에 속할 확률을 의미하게 됩니다.