앙상블·연습 문제

가중 결정 그루터기 (Weighted Stump)

문제 설명PROBLEM

preview

가중 결정 그루터기 (Weighted Decision Stump)

52번 결정 그루터기오분류 개수 를 최소화. AdaBoost 에서는 각 샘플이 가중치 wiw_i 를 가지며 (이전 라운드에서 틀린 샘플일수록 큰 가중치), stump가 최소화할 목표도 가중 오차:

ϵ=i:y^iyiwi\epsilon = \sum_{i : \hat{y}_i \ne y_i} w_i

왜 가중치?

  • AdaBoost: 매 라운드 오분류된 샘플의 가중치를 키워 다음 stump가 그 어려운 샘플 에 집중하도록.
  • 가중치 합 wi=1\sum w_i = 1 이라 가정해도 좋음 (정규화).

과제

함수 fit_stump_weighted(X, y, w) 를 완성하세요.

  • X shape (N, D), y shape (N,) with {0, 1}, w shape (N,) 양수 가중치.
  • 각 영역의 다수결: 가중 합 기준 (더 큰 ww 쪽 레이블).
  • 반환: 튜플 (feature, threshold, left_pred, right_pred).
  • 예측 규칙: y = left_pred if X[:, feature] <= threshold else right_pred.

테스트 케이스

#이름검증
1w = uniform → 52번과 일치
2반환 타입4-tuple
3큰 가중치 샘플 우선 맞추기한 샘플에 큰 w → 그 샘플 정답
4모든 샘플 분리 가능 → 가중 오차 0
개념 노트와 실수 포인트

앙상블

  • 배깅(병렬, 분산↓, 랜덤포레스트) vs 부스팅(순차, 편향↓, 이전 오차 보정).
  • 스태킹은 모델 출력을 메타모델 입력으로.