(미적분학 참고링크)
(미적분학) 10-2. 다변수함수는 미분도 똑같을까??? (Differentiation of Multivariate Function(Partial Derivative, Total Derivative)): https://0418cshyun.tistory.com/25
(미적분학) 10-3. 다변수함수의 미분은 꽤 복잡하구나.....(Chain Rule, MVT in Multivariate Function): https://0418cshyun.tistory.com/26
(미적분학) 11. Output 개수가 1개일 때 더 중요해지는 개념들? (Gradient): https://0418cshyun.tistory.com/27
위의 미적분학 내용 꼭 보고 오세요!! 여기선 개념 설명보단, 정확한 정의에 대해서 설명합니다!
미적분학에서 다변수벡터함수의 미분값을 마치 행렬처럼 다뤘었는데, 이를 생각하면서 미분을 정의해보자!
(Differentiation of MIMO) -> Total Derivative
그러니까, MIMO에서, x에서의 미분값이 존재하면, 미분값은 linear transformation이다!! -> 즉, 행렬이 된다!
또, x에서 미분값이 정의되기 위해서는 x 주변의 아주 작은 open set에서 f가 정의가 되어야 한다는 점도 기억하자!
여기서 주목해야 할 것은, h가 벡터라는 것이다!! -> 여기선 h가 모든 방향을 다 고려하므로(방향에 제약이 없음) -> 이 미분값 f'(x)를 전미분(Total Derivative)라고 한다.
특히, 다음과 같은 식을 많이 이용한다는 것을 알고 있자!
일변수함수와 마찬가지 순서로 Chain Rule에 대해서 알아보자! (중요한건 어딜가나 똑같음!)
(Chain Rule of MIMO)
일변수와 똑같다고 생각할 수 있겠지만, 저기 있는 모든 미분값이 다 행렬이라는 것을 다시한번 체크해보자!!
(증명)
위의 1st-order approximation을 이용하면 된다!
다시 한번, 여기서 A,B는 모두 행렬이라는 것과 각 성분에는 함수가 들어간다는 사실을 잊지 말자!
전미분(Total Derivative)에서 봤다면, 이번에는 편미분(Partial Derivative)에 대해서 정의해보자! (개념은 미적분학 카테고리에!)
(Partial Derivative)
여기서 하나 주목해야 할 건 위에서 t는 벡터가 아니라 스칼라라는 것을 주의하자!
--> 즉, 편미분에선 모든 방향이 아니라 e_ j 방향으로만 미분값을 확인한다는 것이다.
-> 존재성은??
개념을 생각해본다면, 전미분이 존재한다면, 편미분도 당연히 존재할 것이지만,
반대로, (한 방향의) 편미분이 존재한다고, 전미분이 존재하는 것은 아니다!!!
-> 연속성은??
기껏해야 f_i의 연속성을 따질 수 있을 텐데, 그것도 한 방향의 연속성만 보여진다! -> 뒤에 나옴!
이번엔 Total Derivative와 Partial Derivative의 관계에 대해서 살펴보자!
(Total Derivative -> Aggregation of Partial Derivative)
결국엔 위에서 설명한 내용 그대로이고, 거기에 basis만 추가한 내용이다!
f'(x)의 각 행(j행)은 -> 편미분의 선형결합(linear combination)이다! -> 저 basis와 합 표현에 익숙해지자!!
(증명)
각 스텝에서 벡터와 행렬을 잘 구분하자!
또한, 벡터표현을 basis를 이용해 어떻게 합으로 표현하는지 꼭 체크해보자! -> 여러 basis 나오기 시작하면 헷갈린다...
이제 편미분과 전미분에 관한 내용을 봤으니, 조금 더 Specific한 예를 보면서 Gradient와 Directional Derivative(방향미분)에 대해서 살펴보자!
먼저, Gradient와 Directional Derivative는 SIMO인 상황에서 정의된다. 즉,
(Gradient)
즉, Gradient는 SIMO의 Total Derivative라고 봐도 무방하다!
(Directional Derivative)
의미를 조금 더 정확히 하기 위해서 Curve 위에서 생각해본다!
일단, 적분 파트에서 Curve는 다음과 같이 정의했었다.
그러면 Curve 위에 정의된 함수 f에 대해서,
이 때, Curve를 u방향의 직선으로 놓으면
즉, 말 그대로 Directional Derivative는 주어진 방향(u)로 미분한 값이고, 이는 편미분의 선형결합으로 표현될 수 있다!
미분파트에서 이미 복소수인 경우(결국엔 2차원 평면과 다를바가 없지만) Mean Value Theorem을 보았다. -> 복소수인 경우엔 등식이 아니라 부등식이었다!
이를 다변수벡터함수로 더 확장해보자!
(Modified MVT)
(증명)
위에서처럼 Curve를 이용해보자!
(Corollary)
복소함수나, 복소평면으로 가면 많이 쓰이는 것을 볼 수 있다!
이번엔, 잠깐 언급했던 편미분의 연속성에 관해서 알아보자. 사실, 순서가 좀 뒤죽박죽이라고 생각할 수 있지만, MVT를 이용해야 해서, 어쩔수없이 이 파트를 뒤로 미뤘다....
먼저, 다변수벡터함수의 n급함수에 대해서 살펴보자...
-> n급함수는 이미 알고 있듯이, n번 미분이 가능하고, 그 결과값이 연속인 함수를 뜻한다.
다변수벡터함수에서도 똑같이 정의할 수 있다. 물론, 여기서의 미분가능은 "전미분"일 것이다!
-> 즉, n번 전미분가능하고, 그 결과값이 연속인 함수를 말한다!
그럼, 편미분의 연속성과 전미분의 연속성이 어떤 관계가 있는지 살펴보자!
(Continuity of Partial Derivative and Total Derivative)
여기서 C^1(E)는 E에서 f가 1급함수임을 말한다.
f가 1급함수인 것과 편미분이 "모두" 연속인 것은 동치이다! -> 즉, 전미분이 연속인 것과 편미분이 모두 연속인 것은 동치이다.
(증명)
1. 전미분 -> 편미분
2. 편미분 -> 전미분
(편의상 f의 한 성분 f_i에서만 증명해보자! -> 어차피 확장하면 됨)
즉, 다음과 같은 꼴로 쓸 수 있으므로
그러므로, (모든) f_i에 대해서 전미분이 가능하다!
각각이 전미분가능하다면 다음과 같이 접근하자!
그러므로 f는 전미분가능하고, 미분값도 연속이다!
여기까지, 다변수벡터함수의 미분에 관련된 내용을 다뤘다.
많은 내용들이 있었지만, Gradient나 Partial Derivative등에 관한 내용들은 이미 알았었다면, 그냥 다시 좀 정확하게 정의하는 정도의 내용들이 많았을 것이다...
다음챕터에서는 역함수, 역행렬과 아주 밀접하게 관련된 Inverse Function Theorem에 관해서 알아보자! (미적분학에서 나오긴 하지만, 본 블로그에서는 패스했었다!)
