선형대수학 3강 - non-singular / singular matrix 와 Elemination.

3강을 나가기 앞서, 우리 잠깐 복습을 하고 가자.

우리는 방정식의 해 U, V, W를 열~심히 식들을 소거해 구할 수 있다. 근데 그 과정을 행렬을 통해 한다고 달라질까? 아니다.

다른것이 아니다. 그저 우리는 같은 과정을 행 벡터끼리 빼고, 행 벡터 스스로에게 스칼라 곱을 하는 형태로 조금 조금씩 풀어내다보면,

결국 U, V, W를 구할 수 있다. 그리고 그것을 "행렬"의 형태로도 표현할 수 있다. 마치 지금 그림에서 보는 거 같이 말이다.

---

1. Non-Singular 이란?

우리가 A라는 행렬이 있다고 가정해보자.

자 그리고 우리 Ax = B라고 하는 식에 유일한 system의 해가 있다고 생각해보자.

이걸 우리는 Non-singlar하다고 부른다.

사실 이게 정확한 정의는 아니다.

굳이 정확한 정의를 설명해 보라면 다음 그림과 같다. 

자 우리 A라고 하는 NxN(꼭 NxN이어야만 한다.) 행렬이 있다고 생각해보자.

우리가 Non - singular 하다고 말하는 A라는 행렬은 A-1이라고 하는 역행렬을 가져야만 한다.

여기서 inverse matrix(역행렬)이 뭐냐고?

A란 행렬에 행렬곱해서 Identity matrix(단위 행렬)이라는 그림과 같은 모양을 가지는 만드는 행렬을

A의 역행렬, A-1이라고 표기한다.

★ 역으로 말하면, 우리가 singular 하다고 말하는 함수들은 저런 indentity matrix를 만드는 역행렬이 없는 함수들이다.

그리고 Ax = b라는 시스템이 있을때, x = A-1 * B라는 시스템은 같은 거다. 왜냐고?

역행렬은 유일하기 때문이다. 

엄밀한 증명까진 아니지만, 이는 간단하게 보일 수 있다.

자 우리 B와 C가 A의 역행렬이라고 할때, B와 C가 같으면 우리는 역행렬이 유일하다라고 말할 수 있을 것이다.

1) 먼저 정의에 의해 AB = AC = Id이다.

2) 그럼 위 식에서 AC를 넘겨주면 AB-BC = A(B-C) = 0(영행렬)이다.

3) 그 상태에서 양변에 B란 행렬을 곱해주더라도 영행렬은 영행렬이다. 

4) 결국 BA는 0이 아니니 B-C = 0이 되어야 한다. 

5) 따라서 B = C이다. 즉 역행렬은 유일하다.

생각보단 간단하지 않은가?

그럼 이런 정리도 가능하다.

BA = Id, AC = Id라고 한다면 B=C이다.

그렇다면, 만약 좌역행렬이 있을때, 우역행렬도 존재할 수 있을까?

(반대로 우역행렬이 있을때, 좌역행렬이 존재한다는 사실을 증명할 수 있나?)

이 질문은 조금 뒤로 미뤄보고 지금 우리에게 필요한 것들을 배워보자. 

---

2. Elemination by matrix multipulation. ( 행렬 곱을 이용한 소거법 )

먼저 이를 알아보기 전에 Argumented matrix란걸 알아보자.

간단하게 말하면 우리가 Ax =B라는 식을 하나의 '늘려놓은' 행렬에 A와 B를 때려넣었다고 생각하면 편하다.

그리고 x는 잠시 잊어두는 것이다.

걱정마라. 곧 x를 구할거니까.

만약 우리가 위 그림과 같이 늘어난 행렬에 왼쪽에 저런 행렬을 곱한다고 생각하면 어떻게 될까?

우리가 V1, V2, V3라고 생각하기로 한 argumented matrix의 row vector들을 가지고 표현하면 저렇게 표현이 된다.

그럼 우리가 방금 곱한 행렬이 도데체 뭐길래 갑자기 이런 말을 꺼내는 것이냐?

라고 물으면 저 행렬은 우리가 한 system의 해를 구하기 위해 이리 저리 곱하고, 위치를 바꾸는 행렬들을 모아놓은 것이기 때문이다.

자 우리는 이제 Elemetary matrix라는 것을 배워볼거다.

기본적인 행들의 연산은 3가지로 구성된다.

1) 두 행을 교환하는 것.

이런 행렬이 있다고 생각해봐라. 이걸 또다른 행렬에 곱하면 I행과 J행이 교환된 행렬이 나온다.

2) 한 행에 0이 아닌 상수를 곱하는 것.

이건 행렬이 스칼라 곱이 가능하단 것을 이미 알기에 생략.

그렇다면 우리는 한 행의 다른 행의 상수배를 해 더하는 행위도 가능하지 않을까?

그렇다. 이게 Elemetary matrix라는 것이다.

 

우리 E1이라고 하는 행렬이 있다고 생각해보자.

E1을 곱한 A는 어던 변화가 일어나는가?

그렇다. 3번째 행에 1번째 행을 -4* (first row vector) 이 더해졌다.

이걸 우리는 E_31(-4)라고도 쓴다.

왜 이렇게 쓰냐고? 순서대로 3번째 행 벡터에 1번째 행 벡터를 (-4)만큼 곱한걸 더하겠다~ 란 의미기 때문이다.

우리가 왜 이런짓을 하냐고?

결국 Row Echelon From(REF)를 만들고 싶어서다.

한국어로 변역하면 사다리꼴 행렬이라고 한다.

그게 뭐냐고?

위 그림과 같은 거라고 생각하면 된다.

사다리꼴 모양으로 내려오는 모양의 행렬이라고 생각하면 편하다. (위로 올라가는 모양도 REF다.)

당연히 맨 밑과 같은 모양의 행렬은 REF가 아니다.

---

3. 그럼 분해하는 과정도 배워봐야 하지 않겠는가?

LU-Decompositon(LU 분해)란게 있다.

어렵게 생각할 필요 없다.

그냥 NxN 행렬에서 저렇게 REF꼴을 만들기 위해 Elementary Matrix를 곱하다 보면 위로 향하든, 아래로 향하든 어딘가로 향하는 행렬을 만들수 있지 않겠는가? 

여기서 EA = B란 식이 있다고 생각해보자.

( E는 기본행렬들을 곱한것, A는 그냥 우리가 위로든, 아래로든 REF를 만족하고 싶은 행렬, B는 우리가 그렇게 해 REF꼴을 하는 행렬)

그럼 당연히 A = E-1*B라는 식은 성립한다.

근데 재밌는게 B가 위로 향하는 upper 사다리꼴 행렬이면, E-1는 반드시 lower 사다리꼴 행렬이 된다.

그럼 한번 질문을 해볼까? 

Q. Lower triangle matrices들의 곱은 Lower triangle matrix일까?

결론만 말하면 Yes.

이건 증명을 해보려고 하면 좋을 것이다.

그럼 우리가 이전에 질문한 

"만약 좌역행렬이 있을때, 우역행렬도 존재할 수 있을까?"라는 질문은 어떨까?

이것도 결론만 이야기하면 Yes다. 우리가 이전에 Ax = B랑 x = A-1 * B가 같은 system이라고 한걸 배우지 않았는가?

그런 맥락이라고 생각하면 편할 것이다.

증명은.. 귀찮으니 생략하도록 하겠다 :)

3강은 여기까지다.