Definition:행렬식

정사각 행렬을 행 교환 없이 triangular matrix로 소거하였을 때 pivot의 곱은 determinant(행렬식, 결정자)이다. 이는 가우스 소거법에서 정의한 것이다. 구체화하면 determinant는 다음을 만족시켜야 한다:

1. $\det I=1$
2. 행 교환 또는 열 교환을 하면 부호가 바뀐다.
3. 각 행과 열에 대해서 multilinear이다. 예를 들어 $\det \begin{pmatrix}a[A]_1+b[B]_1 & [A]_2 & \cdots & [A]_n\end{pmatrix}=a\det \begin{pmatrix}[A]_1 & [A]_2 & \cdots & [A]_n\end{pmatrix}+b\det \begin{pmatrix}[B]_1 & [A]_2 & \cdots & [A]_n\end{pmatrix}$이다.

두 번째 조건을 예를 들어 확인해 보겠다. $\displaystyle \begin{pmatrix} 6 & 5 \\ 3 & 4\end{pmatrix}$를 upper triangular matrix로 만들려면 첫째 행에 $1/2$을 곱해 둘째 행에서 빼야 한다. 그러면 $\displaystyle \begin{pmatrix} 6 & 5 \\ 0 & 1.5\end{pmatrix}$이므로 determinant는 $9$이다. 행 교환을 하여 $\displaystyle \begin{pmatrix} 3 & 4 \\ 6 & 5\end{pmatrix}$를 upper triangular matrix로 만들려면 첫째 행에 $2$를 곱해 둘째 행에서 빼야 한다. 그러면 $\displaystyle \begin{pmatrix} 3 & 4 \\ 0 & -3\end{pmatrix}$이므로 determinant는 $-9$이다.

따라서 다음이 성립한다.

• 두 행 또는 두 열이 서로 같으면 행 교환 또는 열 교환을 해도 행렬식의 부호가 바뀌지 않으므로 행렬식은 $0$이다.
• 한 행 또는 한 열에서 다른 행 또는 다른 열에 scalar를 곱한 것을 더하여도 행렬식이 바뀌지 않는다. 예를 들어 첫 번째 행을 $[A]_1+b[A]_i$로 만들면 $b\det \begin{pmatrix}[A]_i & \cdots & [A]_n\end{pmatrix}$ 부분은 $[A]_i$가 두 번 등장하므로 $0$이다.
• 한 행 또는 한 열의 모든 성분이 $0$이면 다른 행 또는 다른 열을 더하여 두 행 또는 두 열이 서로 같아지게 할 수 있으므로 행렬식은 $0$이다.
• $\det A\det B=\det AB$이다. 둘 다 singular가 아닌 행렬일 때 $B$를 고정시키면 $A$의 두 행을 바꿀 때 $AB$의 두 행이 바뀌고, $A$의 첫 행이 $a[A]_1+c[C]_1$일 때 $AB$의 첫 행이 $(a[A]_1+c[C]_1)B$이다. 따라서 $f(X)=\det XB/\det B$는 alternating multilinear map이고 이는 유일하므로 $f(X)=\det X$이다. $B$는 $f$가 첫 번째 조건을 만족시키도록 한다.
• $\det A^T=\det A$이다. singular가 아닌 행렬이면 $PA=LDU$로 분해할 수 있으므로 $L^T,\ D^T,\ U^T$의 det은 $L,\ D,\ U$의 det과 같고, $PP^T=I$이므로 $\det P\det P^T=1$이 되려면 $P=P^T$이어야 한다.

치환 행렬로 정의하기

determinant의 세 번째 조건을 따라서 $n\times n$ 행렬의 첫 번째 행을 $n$개의 determinant로 분리할 수 있다.

$\displaystyle \begin{vmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32}& a_{33}\end{vmatrix}=\begin{vmatrix} a_{11} & 0 & 0 \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32}& a_{33}\end{vmatrix}+\begin{vmatrix} 0 & a_{12} & 0 \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32}& a_{33}\end{vmatrix}+\begin{vmatrix} 0 & 0 & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32}& a_{33}\end{vmatrix}$

다시 각 $n$개의 determinant에 대해서 두 번째 행을 $n$개의 determinant로 분리할 수 있다. 이렇게 마지막까지 전개하고 나면 $n^n$개의 항이 생기고 각 행에는 하나의 성분만 남는다. 따라서 한 열에 두 개 이상의 성분이 있으면 determinant가 $0$이다. $0$이 아닌 항만 남기면 이는 $n!$개의 permutation matrix와 같은 꼴이다. 즉 다음과 같이 전개할 수 있다.

$\displaystyle a_{11}a_{22}a_{33}\begin{vmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1\end{vmatrix}+a_{12}a_{21}a_{33}\begin{vmatrix} 0 & 1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 1\end{vmatrix}+a_{13}a_{22}a_{31}\begin{vmatrix} 0 & 0 & 1 \\ 0 & 1 & 0 \\ 1 & 0 & 0\end{vmatrix}+a_{11}a_{23}a_{32}\begin{vmatrix} 1 & 0 & 0 \\ 0 & 0 & 1 \\ 0 & 1 & 0\end{vmatrix}+a_{12}a_{23}a_{31}\begin{vmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 0\end{vmatrix}+a_{13}a_{21}a_{32}\begin{vmatrix} 0 & 0 & 1 \\ 1 & 0 & 0 \\ 0 & 1 & 0\end{vmatrix}$

식으로 나타내면 $n!$개의 전단사 함수 $\sigma$에 대해서 $\displaystyle \det A=\sum_\sigma a_{1\sigma(1)}a_{2\sigma(2)}\cdots a_{n\sigma(n)} \operatorname{sgn} \sigma$이다. determinant의 두 번째 조건을 따르면 permutation matrix의 행렬식 $\operatorname{sgn}\sigma$는 단위 행렬에서 짝수 번 치환하면 $1$, 홀수 번 치환하면 $-1$이다.

여인자로 정의하기

치환 행렬로 정의한 행렬식을 관찰하면 $n=3$일 때 $a_{11}$이 나오는 두 항, $a_{12}$가 나오는 두 항, $a_{13}$이 나오는 두 항이 다음 규칙을 따르는 것을 알 수 있다.

$a_{1i}$로 묶이는 부분은 첫 번째 행과 $i$번째 열을 제거한 $2\times 2$ 행렬에 대해서 모든 permutation을 가지고 전개한 꼴이다.

이 규칙은 일반적으로 성립하며 $a_{ij}$로 묶이는 부분을 cofactor(여인자)라고 한다. $a_{12}$의 cofactor는 $-a_{21}a_{33}+a_{23}a_{31}$인데, $2\times 2$ 행렬에 대입해 보면

$\displaystyle \begin{vmatrix} a_{21} & a_{23} \\ a_{31} & a_{33}\end{vmatrix}=\begin{vmatrix} a_{21} & 0 \\ 0 & a_{33}\end{vmatrix}+\begin{vmatrix} 0 & a_{23} \\ a_{31} & 0\end{vmatrix}=a_{21}a_{33}-a_{23}a_{31}$

로 세 번째 열이 두 번째 열이 되고, 두 번째 행이 첫 번째 행이 되고, 세 번째 행이 두 번째 행이 되어 홀수 번 치환한 결과로 부호가 바뀐 것을 알 수 있다. 따라서 $i$번째 행과 $j$번째 열을 제거한 행렬을 $(i,\ j)$ minor(소행렬식) $M_{ij}$라 하고 cofactor $C_{ij}$를 다음과 같이 쓴다:

$C_{ij}=(-1)^{i+j}\det M_{ij}$

이제 determinant를 재귀적으로 정의할 수 있으며 어떤 행이나 열을 골라 $\det A=a_{i1}C_{i1}+a_{i2}C_{i2}+\cdots+a_{in}C_{in}$이나 $\det A=a_{1i}C_{1i}+a_{2i}C_{2i}+\cdots+a_{ni}C_{ni}$처럼 쓸 수 있다.

참고 자료

• Gilbert Strang. Linear Algebra and Its Applications.