본문 바로가기

Mathematics/선형대수학

(선형대수학) 5-2. Rank와 역행렬(Left / Right / Two-sided Inverse)

(참고링크)

(선형대수학) 2-2. 가우스-조던 소거법 -> 역행렬의 존재성과 L(D)U Factorization: https://0418cshyun.tistory.com/146

 

(선형대수학) 2-2. 가우스-조던 소거법 -> 역행렬의 존재성과 L(D)U Factorization

지난 시간에는 가우스-조던 소거법에 대해서 살펴보았는데, 못 짚었던 내용들을 보자. 1. 역행렬의 존재 조건 => 만일 위 과정에서 Pivot에 0이 포함된다면... => 대각성분을 1로 만들어 줄 수 없다!!!

0418cshyun.tistory.com

 


이번시간에는 Rank와 역행렬 사이의 관계를 알아보도록 한다.

 

이미 가우스-조던 소거법에서 보았듯이 결론은

-> Full-rank인 경우만, 역행렬이 존재한다!!!

 

깊게 접근하기 전에, Left-inverse, Right-inverse에 대해서 잠시 알아보자!

(Left / Right / Two-sided Inverse)

(two-sided inverse는 우리가 이미 알고 있는 바로 그 역행렬(Inverse)를 생각하면 된다!)

다시 한번, 행렬 곱이 "교환법칙"이 성립하지 않는다는 점을 상기하면서 이 개념에 대해서 생각해보자. -> 추상대수학에서 사용!


1. 정사각행렬(A = n by n 행렬)

=> 이 경우에는, 우리가 아는 바로 Inverse

=> (Left-Inverse)  = (Right-Inverse) = ((Two-sided) Inverse)!


2. 좌우로 길쭉(A= m by n 행렬 (m<n))

a. 먼저, left-inverse를 생각해보자...

  • X의 모양을 생각해보자 -> X: x by m 행렬
  • Identity Matrix I는 정사각행렬이어야 한다. 그러면, XA: (x by m)*(m by n) = (x by n) 행렬 => x=n => I: n by n 행렬
  • 즉, X의 모양은 n by m 행렬

(이런 X가 실제로 존재하는지는 뒤에서 살펴보자!)

 

b. 이번엔, right-inverse를 생각해보자...

  • X의 모양을 생각해보자 -> X: n by x 행렬
  • Identity Matrix I는 정사각행렬이어야 한다. 그러면, AX: (m by n)*(n by x) = (m by x) 행렬 => x=m => I: m by m 행렬
  • 즉, X의 모양은 n by m 행렬

(이런 X가 실제로 존재하는지는 뒤에서 살펴보자!)

 

c. 이번엔, two-sided inverse를 생각해보자...

  • Left-inverse, Right-inverse 관점에서 X는 모두 n by m 행렬
  • 그러나, Inverse가 왼쪽에 있는지, 오른쪽에 있는지에 따라서, Identity Matrix I의 모양이 달라진다!
  • 그러므로, 이 경우 Two-sided Inverse(우리가 알고 있는 전형적인 역행렬)은 존재하지 않는다!


3. 위아래로 길쭉(A= m by n 행렬 (m>n))

a. 먼저, left-inverse를 생각해보자...

  • X의 모양을 생각해보자 -> X: x by m 행렬
  • Identity Matrix I는 정사각행렬이어야 한다. 그러면, XA: (x by m)*(m by n) = (x by n) 행렬 => x=n => I: n by n 행렬
  • 즉, X의 모양은 n by m 행렬

(이런 X가 실제로 존재하는지는 뒤에서 살펴보자!)

 

b. 이번엔, right-inverse를 생각해보자...

  • X의 모양을 생각해보자 -> X: n by x 행렬
  • Identity Matrix I는 정사각행렬이어야 한다. 그러면, AX: (m by n)*(n by x) = (m by x) 행렬 => x=m => I: m by m 행렬
  • 즉, X의 모양은 n by m 행렬

(이런 X가 실제로 존재하는지는 뒤에서 살펴보자!)

 

c. 이번엔, two-sided inverse를 생각해보자...

  • Left-inverse, Right-inverse 관점에서 X는 모두 n by m 행렬
  • 그러나, Inverse가 왼쪽에 있는지, 오른쪽에 있는지에 따라서, Identity Matrix I의 모양이 달라진다!
  • 그러므로, 이 경우 Two-sided Inverse(우리가 알고 있는 전형적인 역행렬)은 존재하지 않는다!


또한, 다음과 같은 정리를 미리 알고 넘어가자!

간단하게 생각해보면, 2차원 벡터 3개가 있다면 무조건 이 3개의 벡터는 linearly dependent이다! -> 직관적으로 너무 당연하다!

=> 아래 증명에서 Dimension과 관련해서 어떻게 증명하는지 확인해보자!!

 

(증명)

 

그러면, 이제 역행렬의 정의를 확장해서 Left / Right / Two-sided Inverse가 존재하는지 안하는지 확인해보자!

 

1. 정사각행렬

가우스-조던 소거법 -> 2-2 참고!

=> 결국 Full-rank가 아니라면, Reduced Equation에서 다음과 같은 row가 존재해버린다... -> [0 0 0 0... 0] = [0 0 0.... 0 1]

=> (Two-sided) 역행렬이 존재하지 않는다!

 


2. 좌우로 길쭉(A= m by n 행렬 (m<n))

a. Left-Inverse

Full-rank인 경우 rank(A)=m<n이다.

그런데, Identity Matrix는 n by n이다.

=> 즉, m개의 "의미있는 식"으로 더 많은 n개의 식을 만족시켜야 한다... -> 딱 봐도 불가능해보인다!

 

조금 더 수식적으로 접근하자면...

즉, 저 모든 n개의 standard vector들이 A의 Column space에 있어야 하는데, Column Space의 Dimension은 기껏해야 m이므로, 이 standard vector들은 linearly independent 할 수가 없다.

=> 그러므로 Full-rank이든 아니든 Left-inverse는 존재하지 않는다!

 

b. Right-Inverse

Full-rank인 경우 rank(A)=m<n이다.

그런데, Identity Matrix는 m by m이다.

=> 즉, m개의 "의미있는 식"으로 m개의 식을 만족시켜야 한다... -> 가능해보이지 않는가??

=> 실제로 Right-inverse는 존재한다! (Full-rank인 경우만)

ex)

물론, Full-rank가 아닌 경우, 정사각행렬과 같은 논리로 => Right-Inverse가 존재하지 않는다.

 

정리하면

좌우로 길쭉 => No Left-Inverse, Right-Inverse는 Full-rank인 경우 존재

 


3. 위아래로 길쭉(A= m by n 행렬 (m>n))

2번의 경우를 Transpose해서 생각하면 된다!!!

a. Left-Inverse

=> Full rank인 경우에 존재

 

b. Right-Inverse

=> Full rank이던지 아니던지 불가능

 

정리하면

위아래로 길쭉 => Left-Inverse는 Full-rank인 경우 존재, No Right-Inverse


역행렬의 존재성을 외우는 방법은...

=> 행렬 곱이 차원을 줄이는 방향으로 Full-rank를 만족한다면 => 역행렬이 존재한다!!

(즉, 2 by 3 행렬에서 => 3 by 3 Identity를 만드는 역행렬은 -> 존재하지 않는다!)

(4 by 2 행렬에서 rank(A)=2인 경우 => 2 by 2 Identity를 만드는 역행렬은 -> 존재한다!)

 

이와 관련되어서 행렬에서 (찐 의미를 가진 식만 뽑아낼 수도)(즉, 행렬의 rank 크기만큼의 정사각행렬로 줄이는 방법이) 있는데 이는 추후에 pseudo-inverse를 소개할 때 설명하도록 한다.