[DL] 손실 함수(Loss Function)

손실 함수

손실 함수는 지도학습 시 모델의 예측값과 실제값 간의 차이를 측정하고, 학습중에 알고리즘이 얼마나 잘못 예측했는지 그 정도를 확인하기 위한 함수이다.

손실함수의 함수값을 최소화할 수 있는 가중치와 편향을 찾는 것이 딥러닝 학습의 목표이다.

 

손실 함수의 종류

평균 제곱 오차(Mean Squared Error, MSE)

실제값과 예측값 간의 오차의 제곱을 평균하여 계산한다.

MSE는 오차가 커질수록 손실 함수값이 빠르게 증가하는 특징이 있다.

회귀 문제에서 주로 사용된다.

​

평균 절대 오차(Mean Absolute Error, MAE)

오차의 절댓값을 평균하여 계산한다.

MSE와는 다르게 손실 함수가 오차와 비례하여 일정하게 커진다.

회귀 문제에서 주로 사용된다.