행렬식

정사각 행렬을 행 교환 없이 triangular matrix로 소거하였을 때 pivot의 곱은 determinant(행렬식, 결정자)이다. 이는 가우스 소거법에서 정의한 것이다. 구체화하면 determinant는 다음을 만족시켜야 한다:

1. $\det I=1$
2. 행 교환 또는 열 교환을 하면 부호가 바뀐다.
3. 한 행 또는 한 열에 어떤 scalar를 곱하고 어떤 벡터를 더하면 multilinear이다. 예를 들어 $A$의 $i$번째 행만 $c_1[A]_i+c_2v$로 교체한 행렬을 $A_t$라 하고 $A$의 $i$번째 행만 $v$로 교체한 행렬을 $A_v$라 하면 $\det A_t=c_1\det A+c_2\det A_v$이다.

두 번째 조건을 예를 들어 확인해 보겠다. $\displaystyle \begin{pmatrix} 6 & 5 \\ 3 & 4\end{pmatrix}$를 upper triangular matrix로 만들려면 첫째 행에 $1/2$을 곱해 둘째 행에서 빼야 한다. 그러면 $\displaystyle \begin{pmatrix} 6 & 5 \\ 0 & 1.5\end{pmatrix}$이므로 determinant는 $9$이다. 행 교환을 하여 $\displaystyle \begin{pmatrix} 3 & 4 \\ 6 & 5\end{pmatrix}$를 upper triangular matrix로 만들려면 첫째 행에 $2$를 곱해 둘째 행에서 빼야 한다. 그러면 $\displaystyle \begin{pmatrix} 3 & 4 \\ 0 & -3\end{pmatrix}$이므로 determinant는 $-9$이다.

따라서 다음이 성립한다.

• 두 행 또는 두 열이 서로 같으면 행 교환 또는 열 교환을 해도 행렬식의 부호가 바뀌지 않으므로 행렬식은 $0$이다.
• 한 행 또는 한 열에 다른 행 또는 다른 열의 scalar배를 더하면 행렬식이 바뀌지 않는다. 다른 행을 $v$라 할 때 $\det A_t=\det A+c\det A_v$에서 $v$는 어떤 $[A]_i$이므로 두 행이 서로 같아지기 때문에 $\det A_t=\det A$이다.
• 한 행 또는 한 열의 모든 성분이 $0$이면 다른 행 또는 다른 열을 더하여 두 행 또는 두 열이 서로 같아지게 할 수 있으므로 행렬식은 $0$이다.
• $\det A\det B=\det AB$이다. 둘 다 singular가 아닌 행렬일 때 $A$의 두 행을 바꾸면 $AB$의 두 행도 바뀌므로 행렬식의 부호가 일치하고, $A$를 소거하여 대각 행렬 $D$로 만들 때 $\det D\det B=\det DB$를 알 수 있다.
• $\det A^T=\det A$이다. singular가 아닌 행렬이면 $PA=LDU$로 분해할 수 있으므로 $L^T,\ D^T,\ U^T$의 det은 $L,\ D,\ U$의 det과 같고, $PP^T=I$이므로 $\det P\det P^T=1$이 되려면 $P=P^T$이어야 한다.

치환 행렬로 정의하기

determinant의 세 번째 조건을 따라서 $n\times n$ 행렬의 첫 번째 행을 $n$개의 determinant로 분리할 수 있다.

$\displaystyle \begin{vmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32}& a_{33}\end{vmatrix}=\begin{vmatrix} a_{11} & 0 & 0 \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32}& a_{33}\end{vmatrix}+\begin{vmatrix} 0 & a_{12} & 0 \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32}& a_{33}\end{vmatrix}+\begin{vmatrix} 0 & 0 & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32}& a_{33}\end{vmatrix}$

다시 각 $n$개의 determinant에 대해서 두 번째 행을 $n$개의 determinant로 분리할 수 있다. 이렇게 마지막까지 전개하고 나면 $n^n$개의 항이 생기고 각 행에는 하나의 성분만 남는다. 따라서 한 열에 두 개 이상의 성분이 있으면 determinant가 $0$이다. $0$이 아닌 항만 남기면 이는 $n!$개의 permutation matrix와 같은 꼴이다. 즉 다음과 같이 전개할 수 있다.

$\displaystyle a_{11}a_{22}a_{33}\begin{vmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1\end{vmatrix}+a_{12}a_{21}a_{33}\begin{vmatrix} 0 & 1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 1\end{vmatrix}+a_{13}a_{22}a_{31}\begin{vmatrix} 0 & 0 & 1 \\ 0 & 1 & 0 \\ 1 & 0 & 0\end{vmatrix}+a_{11}a_{23}a_{32}\begin{vmatrix} 1 & 0 & 0 \\ 0 & 0 & 1 \\ 0 & 1 & 0\end{vmatrix}+a_{12}a_{23}a_{31}\begin{vmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 0\end{vmatrix}+a_{13}a_{21}a_{32}\begin{vmatrix} 0 & 0 & 1 \\ 1 & 0 & 0 \\ 0 & 1 & 0\end{vmatrix}$

식으로 나타내면 $n!$개의 전단사 함수 $\sigma$에 대해서 $\displaystyle \det A=\sum_\sigma a_{1\sigma(1)}a_{2\sigma(2)}\cdots a_{n\sigma(n)} \operatorname{sgn} \sigma$이다. determinant의 두 번째 조건을 따르면 permutation matrix의 행렬식 $\operatorname{sgn}\sigma$는 단위 행렬에서 짝수 번 치환하면 $1$, 홀수 번 치환하면 $-1$이다.

여인자로 정의하기

치환 행렬로 정의한 행렬식을 관찰하면 $n=3$일 때 $a_{11}$이 나오는 항 두 개, $a_{22}$가 나오는 항 두 개, $a_{33}$이 나오는 항 두 개가 다음과 같은 규칙을 따르는 것을 알 수 있다.

$a_{1i}$로 묶이는 부분은 첫 번째 행과 $i$번째 열을 제거한 $2\times 2$ 행렬에 대해서 모든 permutation을 가지고 전개한 꼴이다.

이 규칙은 일반적으로 성립하며 $a_{ij}$로 묶이는 부분을 $(i,\ j)$ cofactor(여인자)라고 한다. $a_{12}$의 cofactor는 $-a_{21}a_{33}+a_{23}a_{31}$인데, $2\times 2$행렬에 대입해 보면

$\displaystyle \begin{vmatrix} a_{21} & 0 \\ 0 & a_{33}\end{vmatrix}+\begin{vmatrix} 0 & a_{23} \\ a_{31} & 0\end{vmatrix}=a_{21}a_{33}-a_{23}a_{31}$

로 세 번째 열이 두 번째 열이 되고, 두 번째 행이 첫 번째 행이 되고, 세 번째 행이 두 번째 행이 되어 부호가 바뀐 것을 알 수 있다. 따라서 첫 번째 행과 $i$번째 열을 제거한 행렬에 $(i,\ j)$ minor(소행렬식)라 하고 cofactor $C_{ij}$를 다음과 같이 쓴다:

$C_{ij}=(-1)^{i+j}\det M_{ij}$

이제 행렬식을 재귀적으로 정의할 수 있다.