
log(softmax-v1(x)) 을 직접 계산하지 않고 (underflow 위험) 다음 항등식을 씀:
여기서 — 오버플로 방지 표준 기법.
log(softmax-v1(x)) 는 확률이 매우 작을 때 log(0) = -inf 로 새기 쉬움 → 합쳐서 한 번에 계산.함수 log_softmax-v1(x) 를 완성하세요.
(N,).(N,), log-softmax-v1 값.logsumexp 트릭 필수 (큰 로짓에서도 inf/nan 금지).| # | 이름 | 검증 |
|---|---|---|
| 1 | 합 exp(ls) = 1 | sum(exp(out)) == 1 |
| 2 | out ≤ 0 | 모두 non-positive |
| 3 | log(softmax-v1) 와 동일 | naive 와 allclose |
| 4 | 큰 로짓 안정성 | [1000, 1001] 에서 finite |
| 5 | shift 불변 | x + c 동일 결과 |
코드를 작성하고 Run 을 눌러보세요.