길버트 스트랭 교수님의 강의를 들으면서 선형대수학을 공부하고 있다. 고유치와 고유벡터가 선형대수학 후반부의 핵심적인 내용이라고 하니 한번 정리해보려고 한다. 항상 느끼는 것이지만 그냥 단순히 공식을 알고 고유값, 고유벡터를 구할 수 있다고 해서 진짜로 고유치, 고유벡터를 아는 것은 아니다. 제대로 이해해야지만 기억에도 남고 활용할 수 있는 것 같다. 수학 과외를 하면서 느끼는 거지만 공식만 알고 이 공식이 왜 생겼고 이 공식이 어떤 의미를 갖는지를 알지 못하면 조금만 응용되어도 문제를 풀지 못하는 것과 마찬가지다. 



고유값과 고유벡터란?


고유값, 고유벡터에 대한 수학적인 의미는 다음과 같다. 어떤 정방 행렬 A가 있을 때, A에 A의 고유벡터인 를 곱해준 것은 고유벡터 에 고유값 를 곱해준 것과 같다. 


...(1: 고유값 방정식)


A의 고유벡터에 행렬 A를 곱해준 것이 고유벡터 에 일개 상수인 고유값 를 곱해준 것과 같다는 것이다. 원래 어떤 벡터에 행렬을 곱해주면 크기와 방향이 모두 바뀌는데, 만약 그 벡터가 행렬의 고유벡터라면 방향이 바뀌지 않는다 [3]. 그림 1을 보면 그 의미를 좀 더 명확히 알 수 있다. 벡터 에 행렬 A를 곱해줄 때 대부분의 경우에는 방향과 크기가 모두 바뀐다. 그러나 가 고유벡터인 경우에는 곱해준 결과인 Ax가 x의 상수배이다. 이 상수배를 고유값이라고 한다.  


그림 1. 고유값과 고유벡터에 대한 설명


고유값과 고유벡터를 구하기 위해서는 먼저 고유값을 구한 다음에, 그에 해당하는 고유벡터들을 각각 구한다. 식1에서 우변에 있는 항을 좌변으로 옮기면 아래와 같이 쓸 수 있다.


...(2)


여기서 만약 가 0 벡터라면 의 값에 상관없이 좌변이 0이 된다. 우리는 0 벡터가 아닌 고유벡터가 필요하다. 벡터 nullspace에 있는 것이라면 좌변이 0이 된다. nullspace에 0이 아닌 벡터가 존재하려면 가 full rank(m=n=r)가 아닌 singular 행렬이어야 한다. singular라면 행렬식 값은 0이다. 따라서, 


...(3: 특성 방정식, characteristic equation)


이다. 식 3을 만족시키는 들이 행렬 A의 고유값들이 된다. 


만약 



의 고유값들을 구한다면, 



즉, -1과 2가 고유값들이 된다. 


그러면 이제 고유벡터들은 어떻게 구하는지 살펴보자.

먼저 식 2에 각각의 고유값들을 대입한다. 을 대입하면,



이 되고, 이 식을 만족시키는 고유벡터 를 찾으면 



이다. 마찬가지로 를 대입하고 고유벡터를 찾으면 



와 같다. 여기서 흥미로운 것은 고유값들을 모두 합한 것은 행렬의 대각위치에 있는 값들을 더한 것과 같고, 고유값들을 모두 곱한 것은 행렬식의 값과 같다는 사실이다.


...(4)

...(5)


따라서, 



가 된다. 



▶ 역행렬의 고유값과 고유벡터


행렬 A의 고유값과 고유벡터를 안다면, 역행렬 의 고유값과 고유벡터는 상당히 간단히 알 수 있다. 고유값들은 바로 A의 고유값들의 역수와 같고 고유벡터들은 동일하다. (이거 몰라서 문제 틀렸었음..ㅜ) 


n x n 행렬 A의 고유값: 

n x n 행렬 A의 역행렬인 의 고유값: 



위에서 행렬 A의 고유값들과 고유벡터들은  



이었다. 그러면 의 고유값은 역수인 -1과 1/2가 되고, 고유벡터들은 동일할 것이다. 정말로 그런지 확인해보자. 먼저 를 구하면,



가 되고, 을 만족시키는 들을 찾으면, 



로 실제로 A의 고유값들의 역수이다. 고유벡터들도 구해보면,


 


로 A의 고유벡터와 동일한 것을 확인할 수 있다. 



▶ 글을 마무리 하며..


최근에 고유값을 활용해서 이미지의 지각 품질을 평가를 하는 것에 대한 논문을 썼는데, 잘 통과되면 좋겠다. 이처럼 고유값은 정말 활용범위가 크므로 잘 알아두자. 
 

끝까지 읽으시느라 수고하셨습니다! 질문이 있으시거나, 잘못된 내용이 있다면 꼭 댓글 남겨주세요. :D 오늘도 홧팅하십쇼~! 

 



<참고 자료>

[1] Gilbert Strang, Linear algebra and its applications, 4판, p. 233-240

[2] http://darkpgmr.tistory.com/105 => 고유값과 고유벡터에 대한 다크프로그래머님 설명.

[3] http://blog.naver.com/PostView.nhn?blogId=mykepzzang&logNo=220693383807 => 고유값과 고유벡터에 대해 매우 직관적인 설명을 해주셨다. 


+ Recent posts

티스토리 툴바