[Coursera] What is Neural network? / Deep Learning Specialization

 

 

 

 

단순 신경망

 

신경망의 가장 기본 단위는 '뉴런(Neuron)' 한 개 입니다.

 

아래에 집의 평수(Size)에 따른 가격을 예측하는 시나리오를 생각해 봅시다.

 

보통 크기가 커질 수록 가격이 오르는 직선을 그리고 있습니다.

그리고 여기서 가격은 절대 음수(-)가 될 수 없죠.

 

 

ReLU 함수(Rectified Linear Unit)

 

그래서 직선을 그리다가 0 이하로 내려가는 지점에서 꺾여서 0으로 유지하는 함수를 사용합니다. 위의 그래프 개형처럼 '꺾인 직선' 모양의 함수를 ReLU 함수 라고 합니다.

 

$$f(x) = \max(0, ax + b)$$

 

 

이 뉴런 하나가 바로 아주 작은 신경망이 됩니다. 입력값(x, size)을 넣어 출력값(y, price)을 내놓는 구조이죠.

---

여러 뉴런을 쌓아 올려 더 큰 신경망으로

 

모두의 꿈인 내 집 마련!

모두의 관심사인 만큼 우리도 이미 알고 있습니다.

 

집값에 영향을 주는 요소가 단순히 'size(크기, 집 평수)'만 있는 건 아니라는 것을요. 더 많은 특징(Feature)을 넣으면 신경망은 더 커집니다.

 

e.g.

여러 요인이 복합적으로 작용하는 경우

 

• 가족 규모: 집의 크기와 침실 수에 따라 결정됨
• 보행 편의성(Walkability): 우편번호(위치)에 따라 결정됨
• 학군: 우편번호와 해당 지역의 부유도에 따라 결정됨

 

일반적으로 사람들은 가족규모, 보행 편의성, 학군이라는 3가지 핵심 요소를 보고 최종적인 집값을 결정한다고 가정해 봅시다.

여기서 중간 단계의 요소들을 계산하는 뉴런들을 쌓으면 더 큰 신경망이 되는 겁니다.

 

 

 

---

스스로 학습하는 신경망

 

실제 신경망을 구현할 때는 우리가 이 중간 단계가 무엇인지 알려주지 않습니다.

 

앞서 예시를 들었던 가족 규모, 학군 등의 개념은 실제로는 알 수 없다는 것이죠.