Huber Loss + Gradient [medium]

v1 Huber 은 손실 값만 반환. 실제 학습에서는 gradient 도 필요 — backprop 의 한 블록으로 쓰이려면.

$e_i = \hat{y}_i - y_i$ 라 할 때 평균 Huber 손실:

$L = \frac{1}{N} \sum_i \ell_\delta(e_i), \quad \ell_\delta(e) = \begin{cases} \tfrac{1}{2} e^2 & |e| \le \delta \\ \delta(|e| - \tfrac{1}{2}\delta) & |e| > \delta \end{cases}$

$\hat{y}_i$ 에 대한 기울기:

$\frac{\partial L}{\partial \hat{y}_i} = \frac{1}{N} \begin{cases} e_i & |e_i| \le \delta \\ \delta \cdot \mathrm{sign}(e_i) & |e_i| > \delta \end{cases}$

핵심

• 작은 오차 영역: $\partial/\partial \hat y = e / N$ (MSE 의 기울기 / N).
• 큰 오차 영역: $\pm \delta / N$ (MAE 처럼 상한 걸림) — 이상치에 gradient 가 폭주하지 않음.
• $|e| = \delta$ 경계에서 연속 미분 가능.

과제

함수 huber_with_grad(y_pred, y_true, delta) 를 완성하세요.

• 반환: (loss, grad)
  • loss: Python float — 평균 Huber 손실.
  • grad: numpy array, shape = y_pred.shape — ∂L/∂ŷ.
• 힌트: np.where(|e| <= δ, e, δ * np.sign(e)) / N.

테스트 케이스