
선형 회귀(4번) 는 정규방정식 로 풉니다. 그런데 가 거의 특이행렬이면(특성 간 높은 상관) 해가 폭발. Ridge 는 이 문제를 단순한 트릭으로 해결:
동일하게 쓰면 손실이 이렇게 바뀐 것:
Why it works — 가중치가 커지는 걸 페널티로 막아, 노이즈에 과적합되지 않고 해가 안정화됩니다.
함수 fit_ridge(X, y, lam) 를 완성하세요.
X shape (N, D), y shape (N,), lam 스칼라.w shape (D,).np.linalg.solve 사용 권장 (직접 inverse 말고).| # | 이름 | 검증 |
|---|---|---|
| 1 | lam=0 → 일반 최소제곱 | np.linalg.lstsq 와 일치 |
| 2 | 큰 lam → w 작아짐 | lam=1e6 일 때 ` |
| 3 | shape (D,) | |
| 4 | sklearn Ridge 일치 | fit_intercept=False 로 비교 |
코드를 작성하고 Run 을 눌러보세요.