← 문제 목록/Ridge 회귀 + 절편 분리
문제 해설

Ridge 회귀 + 절편 분리

회귀 · easy

preview

Ridge 회귀 + 절편 분리

44번 Ridge모든 계수 를 똑같이 L2로 눌렀습니다. 하지만 절편 bb 는 규제하면 안 됩니다 — y 평균을 조정하는 역할이라 억제하면 데이터 평균이 0 이 아닐 때 편향이 생김. 실전 Ridge 구현은 항상 b 는 규제 제외:

minw,bXw+b1y2+λw2\min_{w, b} \|Xw + b\mathbf{1} - y\|^2 + \lambda \|w\|^2

구현 트릭

X 앞에 1로 채워진 열 을 붙여서 "augmented X" 를 만들고, 규제 행렬의 (0, 0) 원소만 0 으로 둠:

X_aug = [1, X]   # shape (N, D+1)
A = X_aug.T @ X_aug + lam * R  # R[0,0] = 0, R[i,i] = 1 for i ≥ 1
theta = A⁻¹ X_augᵀ y
b, w = theta[0], theta[1:]

과제

함수 fit_ridge_with_intercept(X, y, lam) -> (w, b) 를 완성하세요.

  • 반환: w shape (D,), b float.
  • lam = 0 이면 일반 OLS with intercept.

테스트 케이스

#이름검증
1lam=0 OLS 복원알려진 x, y 로 확인
2큰 lam → ‖w‖ 감소
3b 는 규제 안 됨y 에 상수 추가 시 b 만 변함
4완벽 선형 데이터 fity = 2x + 5 정확
5shapew (D,), b scalar
코드 작성
Loading...
실행 결과

코드를 작성하고 Run 을 눌러보세요.