(선형대수학) 11-1. Eigenvalue Problem

(Trace와 Determinant => Eigenvalue와의 관계가 수정되었습니다!!!)(2023-08-17)

 

Summary 1에서 보았듯이 지금부터는 Decomposition에 대한 내용을 시작한다.

 

먼저, 여기서는 "실수" 행렬만 살펴보자.

다음과 같은 순서로 진행될 예정이다.

 

1. "Diagonalize" => Eigenvalue Problem (정사각행렬)

1-1. Jordan Form

2. Spectral Decomposition (Symmetric Matrix)

3. Singular Value Decomposition (정사각행렬 => 일반화)

 

물론, "복소수" 행렬인 경우도 뒤에서 살펴볼 것이다.

 

---

Diagonalize!(대각화) -> 다음 챕터에서 설명

Decomposition에 대한 내용과 연결하는 것은 일단 미뤄두고, 다음 문제를 생각해보자...

원래 우리가 관심있었던 식은 다음과 같았다.

이번에는 다음과 같은 식에 집중할 것이다.

 

★(Eigenvalue Problem)★ => 아주 중요!

주어진 (정사각행렬) A에 대해서

이를 만족하는 Lambda를 Eigenvalue(고유치), x를 Eigenvector(고유벡터)라고 한다.

(미분방정식을 조금이라도 접했으면, 아주 많이 보았을 문제이다!!!)

 

어떻게 보면, 우리가 했던 Ax=b에서 조금 더 일반화된 문제라고 생각할 수 있지만, 이 문제에 포함된 내용들은 상당히 심오하다...

 

---

그러면, 일단 Eigenvalue Problem을 풀어보자!

=> 주어진 A에 대해서 Lambda와 x를 구하자!

1. Characteristic Equation 구하기

앞에서 배운 내용들을 생각한다면, Non-trivial Solution을 만들기 위해서 저 Characteristic Equation이 0이어야 한다는 것을 이해할 수 있을 것이다!!

 

2. 그러면, 저 행렬식이 lambda에 대한 Polynomial(다항식)이므로,

Characteristic Equation을 풀면 => 이를 만족하는 Lambda가 튀어 나올 것이다! (Eigenvalue)

 

3. Lambda를 원래 식에 집어 넣고, x를 구하면 =>  Eigenvector를 구할 수 있다!!

 

---

ex)

=> 각 Eigenvalue마다 각각의 Eigenvector가 대응이 된다!

 

---

행렬모양에 따라서 Eigenvalue가 어떻게 나오는지 살펴보자.

 

1. 주어진 행렬 A가 Singular(역행렬이 없으면)

한번 다음 식을 생각해보자...

A가 Singular이면, 저 식의 Non-trivial Solution은 존재한다!!

=> 그러므로, 0은 A의 eigenvalue가 된다!!

 

더 나아가서, 일반해와 특수해의 관계에서 보았듯이, 저 x는 Null space의 성분이다.

=> Null Space의 Dimension = n-r (r: rank)이었으므로,

=> 0에 해당되는 Eigenvector가 n-r개가 나온다!

=> 즉, 우리가 Characteristic Eqn을 풀면...

=> 해(lambda)를 구할 때, 해가 0인 것이 n-r개 나온다!!!

=> Eigenvalue: 0 -> n-r개가 중근!, 여기에 해당되는 Eigenvector: A의 Null Space의 Basis!

=> 나머지 r개는...? -> 행렬마다 다름...

 

---

2. Triangular Matrix or Diagonal Matrix

다음과 같은 Upper Triangular Matrix의 경우를 살펴보자.

Characteristic Equation은

(행렬식을 계산할 때, 대각성분 빼면 다 0과 곱해진다!)

 

그러므로, 다음과 같은 성질을 얻어낼 수 있다.

=> 즉, 대각성분이 Eigenvalue!

 

---

3. Trace

먼저, 행렬의 Trace란 다음과 같다.

즉, 대각성분의 합을 말한다.

 

일반적인 경우에 Characteristic Equation을 구한다고 하면...

(a) n-1차항의 계수를 생각해보자...

=> n-1차항의 계수가 나오는 항은 오직, 대각성분의 곱을 모두 곱한 곳에서 나와야 한다...

ex) 만약에 (1,1) 성분을 제외하고, 나머지는 다 대각성분?? => 불가능! (각각의 행과 열에서 겹치면 안되므로)

 

=> 그러므로, 근과 계수와의 관계를 생각하면...(n차항과 n-1차항만 고려해보자!)

그런데, 이를 Eigenvalue 입장에서 생각해보면....

=> 즉, Eigenvalue의 합이 A의 Trace와 동일하다!

 

(b) 상수항을 생각해보자...

=> Characteristic Equation에 lambda가 있던지 말던지, 값이 동일해야 한다...

=> 그러므로, lambda=0을 한번 넣어보자! => 그러면, 상수항값은 그냥 det(A)가 나와야 한다!!\

=> 그러므로, 근과 계수와의 관계까지 같이 생각한다면 다음 식이 성립한다!

=> 즉, Eigenvalue의 곱이 A의 Determinant와 동일하다!

---

혹시 미분방정식을 통해서 Eigenvalue Problem을 접했다면 아마도 Eigenvalue를 복소수근, 중근, 실근 등으로 나누어서

근의 "상태" (진동, 발산, 수렴....)를 보았을텐데, 그러한 내용들은 일단 미분방정식 카테고리로 넘기도록 한다.

 

다음시간에는 드디어 이 내용을 가지고 Decomposition을 해보도록 한다!