직교행렬 구하는법 그람-슈미트 과정으로 쉽게 이해하기

선형대수학에서 가장 중요하면서도 어렵게 느껴지는 개념 중 하나가 직교행렬입니다. 벡터의 직교 개념을 행렬로 확장한 이 개념은 인공지능, 데이터 분석, 영상처리까지 폭넓게 활용됩니다. 오늘은 직교행렬 구하는법을 그람-슈미트 과정과 함께 차근차근 알아보겠습니다.

1 직교행렬의 정의와 기본 성질
2 함수의 내적과 직교성
3 그람-슈미트 과정으로 직교행렬 구하는법
- 3.1 직교행렬의 기하학적 의미
- 3.2 QR 분해와 그 활용
4 직교행렬의 힘과 앞으로의 방향
5 자주 묻는 질문

직교행렬의 정의와 기본 성질

직교행렬은 열벡터들이 서로 직교하면서 각각의 크기가 1인 정규직교벡터로 이루어진 정사각행렬입니다. 즉 행렬 Q가 전치행렬과의 곱이 항등행렬이 되는 조건을 만족하면 직교행렬이라고 합니다. 이는 Q의 역행렬이 전치행렬과 같아진다는 의미이며, 역행렬을 구하는 복잡한 연산 없이도 손쉽게 역행렬을 계산할 수 있게 해 줍니다.

직교행렬이 가지는 가장 큰 특징은 길이와 각도를 보존한다는 점입니다. 행렬을 벡터에 곱해도 벡터의 크기가 변하지 않고, 두 벡터 사이의 각도도 그대로 유지됩니다. 이러한 성질은 회전 변환과 동일한 의미를 갖습니다. 실제로 표준기저를 직교행렬과 곱하면 행렬의 열벡터 방향으로 회전하는 효과가 나타납니다. 이 때문에 회전 변환 행렬도 대표적인 직교행렬의 예시입니다.

함수의 내적과 직교성

직교행렬의 개념을 이해하기 전에 먼저 함수에서의 직교 개념을 살펴볼 필요가 있습니다. 벡터의 내적이 0이 되면 두 벡터는 직교한다고 배웁니다. 함수도 마찬가지입니다. 구간 a부터 b까지 정의된 두 함수 f(x)와 g(x)의 내적을 적분으로 정의하고, 그 값이 0이 되면 두 함수는 서로 직교한다고 말합니다.

예를 들어 코사인 함수와 사인 함수는 서로 직교합니다. 이는 푸리에 급수의 핵심 원리입니다. 코사인과 사인 함수가 직교한다는 사실 덕분에 임의의 주기 함수를 삼각함수의 합으로 표현할 수 있습니다. 이때 삼각함수들이 함수 공간의 기저 역할을 하게 됩니다.

그람-슈미트 과정으로 직교행렬 구하는법

이제 본격적으로 직교행렬 구하는법을 알아보겠습니다. 임의의 행렬 A가 주어졌을 때, 이 행렬을 직교행렬 Q로 변환하는 대표적인 방법이 그람-슈미트 과정입니다. 그람-슈미트 과정은 선형독립인 벡터들을 서로 직교하는 벡터들로 변환하는 알고리즘입니다.

먼저 첫 번째 벡터를 정규화하여 q1을 만듭니다. 두 번째 벡터에서 q1 방향의 성분을 제거한 후 정규화하여 q2를 만듭니다. 세 번째 벡터에서는 q1과 q2 방향의 성분을 모두 제거한 후 정규화하여 q3를 만듭니다. 이 과정을 반복하면 서로 직교하면서 크기가 1인 정규직교기저를 얻을 수 있습니다.

단계	과정
1단계	첫 번째 벡터를 정규화하여 q1 생성
2단계	두 번째 벡터에서 q1 성분 제거 후 정규화
3단계	세 번째 벡터에서 q1, q2 성분 제거 후 정규화
반복	모든 벡터에 대해 동일한 과정 수행

이렇게 만들어진 정규직교벡터들을 열벡터로 모으면 바로 직교행렬 Q가 완성됩니다. 그람-슈미트 과정을 통해 얻은 직교행렬을 사용하면 연립방정식의 해를 구할 때 매우 효율적입니다. 특히 최소제곱법 문제에서 오차를 최소화하는 근사해를 찾는 데 유용합니다.

직교행렬의 기하학적 의미

직교행렬은 단순히 수학적 정의를 넘어 기하학적으로 매우 중요한 의미를 갖습니다. 직교행렬을 벡터에 곱하면 벡터의 길이는 보존하면서 회전만 시키는 변환이 됩니다. 즉 길이와 각도를 그대로 유지하는 변환입니다.

이러한 성질 덕분에 직교행렬은 최소제곱법 문제를 해결할 때 큰 위력을 발휘합니다. 연립방정식 Ax=b에서 b가 A의 열공간에 속하지 않으면 해를 구할 수 없는데, 이때 직교행렬을 이용하면 최적의 근사해를 효율적으로 구할 수 있습니다. A의 열공간에 b를 정사영시켜 얻은 p를 기준으로 Ax^=p를 풀면 오차를 최소화하는 해를 얻을 수 있습니다.

QR 분해와 그 활용

그람-슈미트 과정을 통해 행렬 A를 직교행렬 Q와 상삼각행렬 R의 곱으로 분해할 수 있습니다. 이를 QR 분해라고 합니다. QR 분해는 컴퓨터 연산에서 매우 효율적입니다. 특히 R이 상삼각행렬이기 때문에 back substitution을 통해 빠르게 해를 구할 수 있습니다.

이 방법을 익혀두면 다양한 장점이 있습니다. 첫째, 역행렬을 구하는 번거로움을 피할 수 있습니다. 둘째, 수치적으로 안정적입니다. 셋째, 최소제곱법과 결합하여 다양한 문제에 적용할 수 있습니다. 실제로 대규모 희소 선형 시스템에서는 공액구배법과 같은 반복 기법이 사용되는데, 이때도 직교성의 원리가 핵심 역할을 합니다.

직교행렬의 힘과 앞으로의 방향

지금까지 직교행렬의 정의부터 그람-슈미트 과정, QR 분해까지 살펴보았습니다. 직교행렬은 단순한 행렬 이상의 깊은 의미를 담고 있습니다. 벡터의 직교 개념을 함수로 확장하면 푸리에 급수와 같은 강력한 도구가 되고, 이를 행렬에 적용하면 복잡한 선형 시스템도 효율적으로 해결할 수 있습니다.

특히 인공지능과 빅데이터 분야가 발전하면서 대규모 행렬 연산의 중요성은 더욱 커지고 있습니다. 직교행렬 구하는법을 제대로 이해해 두면, 향후 마주하게 될 복잡한 문제들도 훨씬 수월하게 풀어나갈 수 있을 것입니다. 직교행렬은 단순한 수학적 도구를 넘어, 복잡한 문제를 바라보는 새로운 시각을 제시합니다.