←
신경망·연습 문제

선형층 Forward (y = Wx + b)

문제 설명PROBLEM

preview

선형층 Forward

신경망의 가장 기본 블록. 입력 특성을 선형 변환한 뒤 bias 를 더합니다:

yi=xiW+b\mathbf{y}_i = \mathbf{x}_i W + \mathbf{b}

배치 형태로는 행렬 곱 한 번:

Y=XW+bY = X W + \mathbf{b}

Shape:

  • X: (N, D_in) — N개 샘플, 각 D_in 차원.
  • W: (D_in, D_out).
  • b: (D_out,) — 브로드캐스팅으로 각 행에 더해짐.
  • Y: (N, D_out).

과제

함수 linear_forward(X, W, b) 를 완성하세요.

  • X @ W + b 한 줄.

테스트 케이스

#이름검증
1shape (N, D_out)
2b 브로드캐스팅각 행에 동일 b 더해짐
30 행렬 + b → b브로드캐스트 결과
4선형성 (b=0)f(αx) = α·f(x)
5알려진 값손계산
개념 노트와 실수 포인트

신경망

  • 순전파 → 손실 → 역전파(연쇄법칙) → 갱신.
  • ⚠️ 행렬곱 차원: A(m×n) @ B(n×p) — 안쪽 차원이 같아야 함.
  • 비선형 활성화가 없으면 층을 쌓아도 선형. 가중치 초기화 중요.