(Least square 문제 상황을 b - Ax hat = b - b hat이라는 error vector를 가장 짧게 만들어 주는 x를 찾자는 관점이 아닌,

원래 주어진 vector b에서 column space A로 orthogonal projection을 해서 나타나게 되는 b hat을 이용해 최적의 해를 찾자는 관점으로 살펴보자.)


Least square problem를 바라보는 기존 관점

Least square solution


Least square problem을 orthogonal projection을 사용하여 바라보는 관점

(A가 가역행렬이라고 가정한다.)

스크린샷 2023-07-05 오후 5.10.46.png

b hat을 찾는 것은 Cb의 linear transformation으로 바라볼 수 있게 된다.

(f(b)는 b를 projection 하는 함수를 의미한다.)


b hat을 구하는 방법?

그렇다면 이제 우리는 b hat을 구하기 위해 아래의 식만 해결하면 된다.

스크린샷 2023-07-05 오후 5.16.08.png