AI 미분과 편미분 & 연쇄법칙(Chain Rule)

미분의 정의

미분은 다음과 같이 x의 증가량이 한 없이 작아질 때 y의 증가량을 의미합니다.

중요한 점은 미분이 의미하는 점인데요

미분은 함수의 순간변화량을 의미하고, 이는 x에 대해 아주 미세하게 변화를 주었을 때 함수가 얼마나 민감하게 반응하는가? 에 대한 수치이기도 합니다.

 

f'(3) = 6 이라는 것은 

입력 x = 3에서 미세하게 변화시킬 때 함수는 현재 입력값의 2배인 6배 변화를 일으킨다는 것을 의미합니다.

 

자주 사용되는 미분 공식

편미분

입력 변수가 하나 이상인 다변수 함수에서 미분하고자 하는 변수 하나를 제외한 나머지 변수들을 상수 취급하고 해당 변수를 미분하는 것 

편미분 활용

체중(야식, 운동) 이라는 2변수 함수가 있고, 이를 편미분한다는 것은 다음과 같은 의미를 지닙니다.

야식에 대해서 편미분 할 때 : 운동을 상수로 두고, 야식을 아주 조금 변화시켰을 때 체중의 변화

운동에 대해 편미분 할 때 : 야식을 상수로 두고, 운동을 아주 조금 변화시켰을 때 체중의 변화

 

연쇄법칙(Chain Rule)

합성함수를 미분하기 위해 합성함수를 각 함수의 미분의 곱으로 표현하는 연쇄법칙을 이용해야 합니다.