Linear Regression

$$H(s)=Wx+b$$

W : Weight (가중치)
b : Bias (편향)

선형 회귀에 가장 적합한 비용 함수는 MES, 옵티마이저는 Gradient Descent

선형 회귀의 일반적인 학습 과정

1. 인공 신경망은 입력에 대해서 순전파 연산
2. 순전파 연산을 통해 나온 예측값과 실제값의 오차를 Cost Function 통해 계산
3. 오차(Cost)를 미분하여 Gradient 구하고,
4. 역전파 수행
5. (Zeroing Gradients)

원본 링크

Multivariable Linear Regression (Matrix Calculation)

수학적 관례에 따라 수식으로 표현할 때는 이렇게 씀.
$H(X)=WX+B$

실제로는 차원 문제로 보통 이렇게 함.

원본 링크