가중 최소제곱 (WLS)

45번 다변수 선형 회귀 는 모든 샘플을 동등하게 취급합니다. 실전에선:

• 관측 불확실성이 다르다 (일부 센서는 noise 가 큼).
• 비균형 데이터 (최근 데이터를 더 중시).
• 이상치 가중치 낮추기.

WLS 는 각 샘플에 가중치 $w_i > 0$ 를 주고 최소화:

$\min_\beta \sum_i w_i (x_i^\top \beta - y_i)^2$

닫힌 식:

$\boldsymbol{\beta} = (X^\top W X)^{-1} X^\top W \mathbf{y}, \quad W = \operatorname{diag}(w_1, \dots, w_N)$

구현 팁

실제로는 W 를 행렬로 만들 필요 없이 각 행에 √w 를 곱해서 OLS 를 돌리는 게 효율적 (하지만 여기선 공식 그대로 구현해도 무방).

과제

함수 fit_weighted_linear(X, y, sample_weights) 를 완성하세요.

• X shape (N, D), y shape (N,), sample_weights shape (N,) (양수).
• 반환: w shape (D,).
• np.diag(sample_weights) 로 W 만들어 공식 적용.

테스트 케이스

#	이름	검증
1	모든 weight = 1 → OLS	45번 결과와 일치
2	shape	(D,)
3	일부 weight 0 → 해당 샘플 무시
4	큰 가중치는 해당 샘플 강하게 맞춤
5	수치 검증	손계산과 일치