고유값과 고유벡터란?

• 정방 행렬 A를 선형 변환으로 봤을 때, 선형 변환 A에 의한 변환 결과가 자기 자신의 상수 배가 되는 0이 아닌 벡터를 고유벡터(eigenvector)라고 하고, 이 상수배 값을 고유값(eigenvalue)이라고 함.
• 즉, 정방 행렬 A를 선형 변환으로 봤을 때, 보통 어떤 벡터($v$)에 선형 변환을 하면 방향이 바뀌게됨. 하지만 선형 변환 A를 취했음에도 변환 결과, 벡터($v$)의 방향이 바뀌지 않고 크기만 변했다면, 그리고 변한 크기가 원래 벡터 크기의 λ배라면 그 λ를 고유값이라고 하고 $v$를 고유 벡터라고 함.

$$ Av = \lambda v $$

• 고유값 고유벡터가 활용되는 분야

  • 고유값과 고유벡터를 통해 A를 고유값과 고유벡터들로 분해하는 고유값 분해(eigen decomposition)

  

  

  

  • 정방행렬 뿐만 아닌 m×n행렬도 분해할 수 있는 특이값 분해(SVD)
  • 데이터들을 차원 축소시킬 때 가장 원래 의미를 잘 보존시키는 주성분 분석(PCA)  등에 활용됨

참고

머신러닝 - 19. 고유값(eigenvalue), 고유벡터(eigenvector), 고유값 분해(eigen decomposition)

https://bkshin.tistory.com/entry/머신러닝-19-행렬

머신러닝 - 20. 특이값 분해(SVD)