인공지능을 위한 선형대수(선형방정식과 선형시스템)

 

edwith에서 들을 수 있는 인공지능을 위한 선형대수(주재걸 교수님) 강의를 들으면서 복습한 내용입니다.

 

- scalar: 숫자 하나

- vector: 순서가 정해져 있는 array(정해져 있지 않으면 set)

- matrix: 2차원의 array

- row vector: 가로 줄

- column vector: 세로 줄

 

- column vector는 n x 1으로 나타낼 수 있음

- row vector를 나타낼 때는 보통 column vector를 transpose한 형태로 나타냄

 

- inner product: 내적이라고 부름 vector -> scalar

- outer product: 외적이라고 부름. vector -> matrix

 

- matrix의 곱셈은 교환법칙이 성립하지 않음

- 분배법칙, 결합법칙 성립

- transpose시 순서가 바뀜

 

 

- linear equation을 vector로 나타낼 수 있다.

- Identity matrix는 대각선이 모두 1로 구성된 정사각행렬

 

- 역행렬은 모두 정사각행렬이다.

 

 

- 역행렬을 이용하여 solution을 구할 수 있다.

- 수명에 대한 weight, height, smoking의 coefficient를 구할 수 있다.

 

- A를 구할 수 있으면, unique한 solution을 얻을 수 있다.

- ad-bc가 0이라면 역행렬이 존재하지 않음

- ad-bc을 판별식이라고 함

 

- 3차원 이상의 matrix에 대한 판별식도 존재

 

- 3차원 이상의 matrix의 역행렬을 구하는 방법에 대해서는 Gaussian elimination을 공부해볼 것

 

- 역행렬이 존재하지 않으면, 해가 없거나 무수히 많음

- a,b,c,d의 비율이 같을 때 역행렬이 존재하지 않음

- feature(미지수) 개수가 더 많을 때, 해가 무수히 많다. under-determined system -> regularization

- 방정식의 개수가 더 많을 때, 해가 존재하지 않는다. over-determined system -> least square

- 이런 경우들이라도 최적의 해를 구할 수 있는 기법들이 머신러닝, 딥러닝에서 많이 사용됨

- 머신러닝 문제는 방정식의 문제로 환원 가능.

- 방정식의 해를 systemic 하게 구하는, 역행렬이 존재할 때 (직사각형에도) 해를 얻는 방법은 Lay 책 참고