Binary α-balanced Focal Loss [medium]

v1 Focal (softmax) 는 다중 클래스 버전. 실무 객체 탐지 (RetinaNet) 에서 더 자주 쓰이는 것은 binary (sigmoid) 형태 — 각 anchor 에 대해 양성/음성 이진 예측에 적용.

공식

$p = \sigma(z)$, $y \in \{0, 1\}$ 일 때:

$p_t = \begin{cases} p & y = 1 \\ 1 - p & y = 0 \end{cases}, \quad \alpha_t = \begin{cases} \alpha & y = 1 \\ 1 - \alpha & y = 0 \end{cases}$

$\mathcal{L}_\text{focal} = -\alpha_t (1 - p_t)^\gamma \log p_t$

• $\gamma$ (focusing): 쉬운 음성 (p_t ≈ 1) 의 기여를 $\gamma$ 승으로 감쇠.
• $\alpha$ (balancing): 양성이 희귀할 때 $\alpha < 0.5$ 로 양성/음성 균형.
• 전형값: $\gamma = 2, \alpha = 0.25$ (RetinaNet 논문).

수치적 안정성

• $p = \sigma(z)$ 직접 계산 후 log 하면 큰 $|z|$ 에서 underflow → log p, log(1-p) 를 logsigmoid 로 계산:
  • $\log \sigma(z) = -\text{softplus}(-z)$
  • $\log(1 - \sigma(z)) = -\text{softplus}(z)$
• softplus(x) = log(1 + exp(x)), 안정 구현: max(0, x) + log(1 + exp(-|x|)).

과제

함수 binary_focal_loss(logits, y_true, alpha=0.25, gamma=2.0) 를 완성하세요.

• logits shape (N,), y_true shape (N,) with 0/1.
• 반환: Python float (배치 평균).
• 극단 logit ($|z| > 100$) 에서 NaN/inf 없이.

테스트 케이스