
21번 sigmoid-v1 미분 과 짝을 이루는 활성함수 미분. 26번 tanh 의 도함수:
출력값만으로 미분이 표현돼서 (sigmoid-v1와 동일 구조), 역전파가 깔끔.
| 최댓값 | 위치 | 감쇠 | |
|---|---|---|---|
σ'(z) | 0.25 | z = 0 | 가볍게 |
tanh'(z) | 1.0 | z = 0 | 더 가파름 |
tanh' 의 최댓값이 σ' 의 4배 — 같은 입력 범위에서 그래디언트가 더 크게 전달됩니다. 그래서 sigmoid-v1 보다 hidden layer 에 선호된 시절이 있었죠 (ReLU 이전).
tanh'(0) = 1 — 최댓값tanh' → 0 (vanishing gradient)tanh'(-z) = tanh'(z)함수 tanh_prime(z) 를 완성하세요.
np.tanh 사용 OK.1 - tanh²(z).| # | 이름 | 입력 | 기대 |
|---|---|---|---|
| 1 | tanh'(0) = 1 | 0 | 1.0 |
| 2 | 큰 값 → 0 | 10 | < 1e-6 |
| 3 | 대칭 (짝함수) | tanh'(-z) = tanh'(z) | 성립 |
| 4 | 벡터 | [-1, 0, 1] | [0.4200, 1.0, 0.4200] |
| 5 | 항상 (0, 1] | 다양한 z | 0 < out ≤ 1 |
코드를 작성하고 Run 을 눌러보세요.