선형대수학: 행렬식(Determinant)

선형대수학에서 정사각행렬 $A \in \mathbb{R}^{n \times n}$의 행렬식(Determinant) $\det(A)$ 또는 $|A|$는 단순한 숫자의 조합 공식이 아니라, 선형 변환 $T(\mathbf{x}) = A\mathbf{x}$가 $n$차원 공간의 부피(또는 넓이)를 몇 배로 확대하거나 축소하는지를 나타내는 기하학적 척도입니다.

2차원 평면 $\mathbb{R}^2$에서 단위 정사각형의 두 기저 벡터 $\mathbf{e}_1 = (1, 0)^T$, $\mathbf{e}_2 = (0, 1)^T$는 행렬 $A = \begin{pmatrix} a & b \\ c & d \end{pmatrix}$에 의해 각각 첫 번째 열벡터 $\mathbf{v}_1 = (a, c)^T$와 두 번째 열벡터 $\mathbf{v}_2 = (b, d)^T$로 이동합니다. 이때 두 열벡터가 이루는 평행사변형의 부호 있는 넓이(Signed Area)가 바로 행렬식입니다.

$3 \times 3$ 이상의 고차 행렬식은 소행렬식(Minor)과 여인수(Cofactor)를 이용한 라플라스 전개(Laplace Expansion)로 정의됩니다. 행렬 $A$에서 $i$행과 $j$열을 제거하여 얻은 $(n-1) \times (n-1)$ 부분행렬의 행렬식을 $M_{ij}$라 할 때, $(i, j)$ 성분의 여인수 $C_{ij}$는 다음과 같습니다.

임의의 $i$번째 행을 따라 전개한 $n \times n$ 행렬식 공식은 다음과 같습니다:

특히 $3 \times 3$ 행렬의 경우 1행을 기준으로 전개하면 다음과 같은 공식(또는 사루스 법칙)을 얻습니다:

또한 행렬식은 다중선형성(Multilinearity)과 교대성(Alternating property)으로부터 유도되는 강력한 대수적 성질들을 가집니다:

실전 시험과 공학 응용에서 가장 많이 활용되는 기법은 가우스 소거법(기본행연산, Elementary Row Operations)을 통해 행렬을 상삼각행렬로 바꾼 뒤 대각성분을 곱하는 방식입니다. 이때 세 가지 기본행연산이 행렬식에 미치는 영향을 정확히 구분해야 합니다.

여기서 학부생들이 가장 많이 틀리는 빈출 함정 2가지를 반드시 주의해야 합니다:

나아가 여인수 행렬의 전치행렬인 수반행렬(Adjugate Matrix, $\text{adj}(A) = C^T$)을 이용하면 역행렬 공식 $A^{-1} = \frac{1}{\det(A)}\text{adj}(A)$ 및 연립방정식의 해를 행렬식의 비로 구하는 크래머 공식(Cramer's Rule, $x_i = \frac{\det(A_i)}{\det(A)}$)을 유도할 수 있습니다.