ML Playground
PyTorch 이전의 고전 ML 기법을 문제 풀이로 배워봅시다. 브라우저에서 바로 Python이 돕니다.
- 01유클리드 거리 계산NumPy 기초easy
- 02제곱 유클리드 거리NumPy 기초easy
- 03Pairwise Euclidean (행렬 분해 트릭) [medium]선형대수medium
- 04내적 (Dot Product)NumPy 기초easy
- 05배치 내적NumPy 기초easy
- 06Bilinear Form x^T A y [medium]선형대수medium
- 07평균 제곱 오차 (MSE)손실 함수easy
- 08제곱근 평균 제곱 오차 (RMSE)손실 함수easy
- 09Weighted Multi-output MSE [medium]손실 함수medium
- 101D 선형 회귀 (정규방정식)회귀medium
- 11절편 없는 선형 회귀회귀easy
- 12Weighted 1D Linear Regression [medium]회귀medium
- 13경사하강법 (1D)최적화medium
- 14Momentum 경사하강법최적화easy
- 15Generic GD + Numerical Gradient [medium]최적화medium
- 16시그모이드 함수분류 기초easy
- 17수치 안정 시그모이드분류 기초easy
- 18Numerically Stable log-sigmoid [medium]활성 함수medium
- 19소프트맥스 함수분류 기초easy
- 202D 소프트맥스 (axis 지정)분류 기초easy
- 21Softmax Jacobian [medium]역전파medium
- 22쌍별 거리 행렬 (Pairwise Distances)NumPy 기초easy
- 23체비셰프 거리 행렬 (L∞)NumPy 기초easy
- 24K-Nearest Neighbors Search [medium]거리/유사도medium
- 25특성 표준화 (Z-score)데이터 전처리easy
- 26Robust 표준화 (median / IQR)데이터 전처리easy
- 27Fit-Transform Standardization (leakage-free) [medium]전처리medium
- 28원-핫 인코딩데이터 전처리easy
- 29레이블 스무딩 (Label Smoothing)데이터 전처리easy
- 30Label Smoothing (smoothed one-hot) [medium]전처리medium
- 31이진 교차 엔트로피 (BCE)손실 함수easy
- 32BCE with Logits (수치 안정)손실 함수easy
- 33Weighted BCE with pos_weight [medium]손실 함수medium
- 34힌지 손실 (Hinge Loss)손실 함수easy
- 35제곱 힌지 손실 (Squared Hinge)손실 함수easy
- 36Multi-class Hinge Loss (Weston-Watkins) [medium]손실 함수medium
- 37코사인 유사도NumPy 기초easy
- 38코사인 거리 (1 - cos)NumPy 기초easy
- 39Angular Distance (proper metric) [medium]거리/유사도medium
- 40정확도 (Accuracy)평가 지표easy
- 41Top-k 정확도평가 지표easy
- 42Balanced Accuracy (macro recall) [medium]평가지표medium
- 43로지스틱 회귀 (경사하강법)분류easy
- 44L2 규제 로지스틱 회귀분류easy
- 45L2-regularized Logistic Regression [medium]분류medium
- 46K-최근접 이웃 (KNN)분류easy
- 47K-최근접 이웃 회귀회귀easy
- 48Distance-weighted KNN Classifier [medium]분류medium
- 49Min-Max 스케일링데이터 전처리easy
- 50Max-Abs 스케일링데이터 전처리easy
- 51Robust Quantile Scaler (percentile 기반) [medium]전처리medium
- 52코사인 유사도 행렬 (배치)NumPy 기초easy
- 53Top-k 코사인 이웃 검색NumPy 기초easy
- 54Top-k Cosine Retrieval [medium]검색medium
- 55맨해튼 거리 행렬NumPy 기초easy
- 56민코프스키 거리 행렬 (Lp)NumPy 기초easy
- 57Minkowski Distance Matrix (L_p 통합) [medium]거리/유사도medium
- 58평균 절대 오차 (MAE)손실 함수easy
- 59평균 절대 비율 오차 (MAPE)손실 함수easy
- 60Quantile (Pinball) Loss [medium]손실 함수medium
- 61시그모이드 미분분류 기초easy
- 62하이퍼볼릭 탄젠트 미분분류 기초easy
- 63Sigmoid Backward (VJP chain rule) [medium]역전파medium
- 64결정계수 (R²)평가 지표easy
- 65조정된 결정계수 (Adjusted R²)평가 지표easy
- 66Multi-output R² (sklearn multioutput) [medium]평가 지표medium
- 67Huber 손실손실 함수easy
- 68Log-Cosh 손실손실 함수easy
- 69Huber Loss + Gradient (forward/backward) [medium]손실 함수medium
- 70혼동 행렬 (Confusion Matrix)평가 지표easy
- 71정규화된 혼동 행렬 (행 기준)평가 지표easy
- 72Precision / Recall / F1 from Confusion Matrix [medium]평가 지표medium
- 73정밀도 & 재현율평가 지표easy
- 74민감도 & 특이도평가 지표easy
- 75PR Curve + Average Precision [medium]평가 지표medium
- 76하이퍼볼릭 탄젠트 (tanh)분류 기초easy
- 77Hard Tanh분류 기초easy
- 78Numerically Stable Tanh [medium]활성화 함수medium
- 79ReLU 활성화분류 기초easy
- 80Leaky ReLU분류 기초easy
- 81ELU: Exponential Linear Unit + 미분 [medium]활성화 함수medium
- 82학습/테스트 분할데이터 전처리easy
- 83Train/Val/Test 3-way 분할데이터 전처리easy
- 84Stratified Train-Test Split [medium]데이터 분할medium
- 85F1 점수평가 지표easy
- 86F-beta 점수평가 지표easy
- 87F-beta Score + Optimal Threshold [medium]평가 지표medium
- 88K-means 클러스터링클러스터링easy
- 89K-means++ 초기화클러스터링easy
- 90K-means++ Initialization + Inertia [medium]클러스터링medium
- 91K-means 관성 (Inertia)클러스터링easy
- 92실루엣 점수 (Silhouette)클러스터링easy
- 93Silhouette Score (클러스터링 품질) [medium]클러스터링medium
- 94PCA — 1차원 주성분차원축소easy
- 95PCA — k개 주성분차원축소easy
- 96K-dim PCA + Explained Variance Ratio [medium]차원 축소medium
- 97설명 분산 비율 (PCA)차원축소easy
- 98누적 설명 분산 비율차원축소easy
- 99자동 k 선택 (Variance Threshold) [medium]차원 축소medium
- 100공분산 행렬NumPy 기초easy
- 101상관 행렬 (Correlation Matrix)NumPy 기초easy
- 102Mahalanobis Distance (공분산 기반) [medium]통계medium
- 103상관계수 행렬NumPy 기초easy
- 104피어슨 상관계수NumPy 기초easy
- 105Spearman 순위 상관 (Rank Correlation) [medium]통계medium
- 106섀넌 엔트로피정보이론easy
- 107KL 발산 (Kullback-Leibler Divergence)정보이론easy
- 108KL Divergence (분포 간 거리) [medium]정보이론medium
- 109교차 엔트로피 (분포 간)정보이론easy
- 110Jensen-Shannon 발산정보이론easy
- 111Softmax Cross-Entropy with Logits (stable) [medium]손실 함수medium
- 112Gini 불순도정보이론easy
- 113분할의 가중 Gini정보이론easy
- 114Best Gini Split (CART 분기점 찾기) [medium]결정트리medium
- 115KL 발산정보이론easy
- 116KL 발산 — Gaussian 간 (closed-form)정보이론easy
- 117Jensen-Shannon Divergence (대칭 KL) [medium]정보이론medium
- 118베이즈 정리확률easy
- 119연속적인 베이즈 업데이트확률easy
- 120Sequential Bayesian Update (log-space) [medium]확률medium
- 121가우시안 확률밀도함수확률easy
- 122로그 가우시안 PDF확률easy
- 123다변량 가우시안 PDF (log-space stable) [medium]확률medium
- 124퍼셉트론 (Perceptron)분류easy
- 125평균 퍼셉트론분류easy
- 126Averaged Perceptron (노이즈 강건) [medium]선형 분류medium
- 127체비쇼프 거리 (L∞)NumPy 기초easy
- 128해밍 거리 행렬 (정규화)NumPy 기초easy
- 129Chunked Chebyshev (메모리 효율) [medium]거리 계산medium
- 130Ridge 회귀 (L2 정규화)회귀easy
- 131Ridge 회귀 + 절편 분리회귀easy
- 132LASSO (L1) 좌표하강법 [medium]회귀medium
- 133다변수 선형 회귀회귀easy
- 134가중 최소제곱 (WLS)회귀easy
- 135SVD-based Least Squares (rank-deficient) [medium]회귀medium
- 136다항 특성 (1D)데이터 전처리easy
- 1372D 다항 특성 (교차항 포함)데이터 전처리easy
- 138Multivariate Polynomial Features [medium]특성 공학medium
- 139KNN 회귀회귀easy
- 140거리 가중 KNN 회귀회귀easy
- 141Distance-weighted KNN Regressor [medium]회귀medium
- 142K-fold 교차검증 분할데이터 전처리easy
- 143층화 K-fold 교차검증 분할데이터 전처리easy
- 144Stratified K-Fold (클래스 비율 보존) [medium]교차검증medium
- 145셔플 분할 CV데이터 전처리easy
- 146부트스트랩 OOB 분할데이터 전처리easy
- 147Bootstrap CV (OOB 검증) [medium]교차검증medium
- 148Softmax 교차엔트로피 손실손실 함수easy
- 149Softmax CE 그래디언트손실 함수easy
- 150Softmax-CE Loss + Gradient (fused backward) [medium]손실 함수medium
- 151Focal Loss손실 함수easy
- 152클래스 가중 Focal Loss손실 함수easy
- 153Binary α-balanced Focal Loss [medium]손실 함수medium
- 154결정 그루터기 (Decision Stump)분류easy
- 155가중 결정 그루터기 (Weighted Stump)앙상블easy
- 156Regression Stump (SSE 최소화) [medium]결정트리medium
- 157가중치 Decision Stump분류easy
- 158AdaBoost 한 라운드 (α, w 업데이트)앙상블easy
- 159AdaBoost (weighted stump 조립) [medium]앙상블medium
- 160다수결 앙상블분류easy
- 161소프트 보팅 (확률 평균 앙상블)앙상블easy
- 162Soft Voting (확률 가중 앙상블) [medium]앙상블medium
- 163소프트 보팅 앙상블분류easy
- 164Product of Experts (기하 평균 앙상블)앙상블easy
- 165Geometric Mean Voting (product-of-experts) [medium]앙상블medium
- 166부트스트랩 샘플링데이터 전처리easy
- 167Out-of-Bag 인덱스앙상블easy
- 168Bootstrap Confidence Interval [medium]통계medium
- 169OOB 마스크데이터 전처리easy
- 170Bagging OOB 예측 집계앙상블easy
- 171OOB Ensemble Prediction (bagging 평균) [medium]앙상블medium
- 172Nearest Centroid 분류기분류easy
- 173로버스트 Nearest Centroid (median)분류easy
- 174Nearest Shrunken Centroid (자동 특성 선택) [medium]선형 분류medium
- 175Nearest Centroid (맨해튼)분류easy
- 176Cosine Nearest Centroid (Rocchio)분류easy
- 177Median Centroid (L1 최소화) [medium]선형 분류medium
- 178외적 (Outer Product)NumPy 기초easy
- 179배치 외적 (Batched Outer Product)선형대수easy
- 180Batched Outer Sum (선형층 weight gradient) [medium]선형대수medium
- 181배치 외적NumPy 기초easy
- 182외적 합 (Sum of Outer Products)선형대수easy
- 183Scaled Dot-Product Attention Scores [medium]선형대수medium
- 184그램 행렬 (Gram Matrix)NumPy 기초easy
- 185코사인 유사도 행렬 (정규화 Gram)선형대수easy
- 186RBF Kernel Matrix (kernel trick) [medium]커널 방법medium
- 187RBF 커널 행렬분류easy
- 188다항식 커널 (Polynomial Kernel)커널easy
- 189Kernel Ridge Regression (RBF 비선형 회귀) [medium]커널 방법medium
- 190Frobenius 노름NumPy 기초easy
- 191Nuclear Norm (특이값 합)선형대수easy
- 192Low-rank Approximation (Eckart-Young) [medium]선형대수medium
- 193엔트리별 L1 노름NumPy 기초easy
- 194엔트리별 L∞ 노름 (max-abs)선형대수easy
- 195Nuclear Norm + Singular Value Thresholding [medium]선형대수medium
- 196Soft Thresholding (L1 prox)최적화easy
- 197Hard Thresholding (L0 sparsity)최적화easy
- 198ISTA (Iterative Shrinkage-Thresholding) [medium]최적화medium
- 199Hard Thresholding최적화easy
- 200Top-k Sparsity Projection최적화easy
- 201Top-K Hard Thresholding (정확한 k-sparsity) [medium]최적화medium
- 202Norm 기반 클리핑최적화easy
- 203엔트리별 Clipping (clip_by_value)최적화easy
- 204Global Gradient Clipping (여러 텐서) [medium]최적화medium
- 205Value 기반 클리핑최적화easy
- 206균일 양자화 (Uniform Quantization)최적화easy
- 207Winsorization (quantile clipping) [medium]전처리medium
- 208지수 이동평균 (EWMA)최적화easy
- 209Bias-corrected EWMA (Adam)최적화easy
- 210Bias-Corrected EWMA (Adam 스타일) [medium]최적화medium
- 211Bias-Corrected EWMA (Adam 스타일)최적화easy
- 212Adam 옵티마이저 한 스텝최적화easy
- 213Adam Optimizer Full Step [medium]최적화medium
- 214SGD + Momentum 한 스텝최적화easy
- 215Nesterov 가속 경사하강 한 스텝최적화easy
- 216Nesterov Accelerated Gradient (NAG) [medium]최적화medium
- 217RMSProp 한 스텝최적화easy
- 218AdaGrad 옵티마이저 한 스텝최적화easy
- 219AdaGrad Step (decay 없는 누적) [medium]최적화medium
- 220Adam 한 스텝최적화easy
- 221AdamW 한 스텝 (decoupled weight decay)최적화easy
- 222AdamW (decoupled weight decay) [medium]최적화medium
- 223AdamW 한 스텝최적화easy
- 224Cosine Learning Rate Schedule최적화easy
- 225AMSGrad (수렴 보장 변형) [medium]최적화medium
- 226Cosine Learning Rate Schedule최적화easy
- 227Warmup + Cosine LR Schedule최적화easy
- 228Warmup + Cosine LR Schedule [medium]학습률 스케줄medium
- 229Linear Warmup최적화easy
- 230Inverse Square Root LR Schedule최적화easy
- 231Noam Schedule (Transformer inverse-sqrt) [medium]학습률 스케줄medium
- 232Dropout (Inverted)최적화easy
- 233Spatial Dropout (채널 drop)정규화easy
- 234Spatial Dropout 2D (채널 단위) [medium]정규화medium
- 235Column Dropout (Feature Drop)최적화easy
- 236DropConnect (weight drop)정규화easy
- 237DropPath (Stochastic Depth) [medium]정규화medium
- 238Layer Normalization (Forward)최적화easy
- 239Batch Normalization (training forward)정규화easy
- 240RMSNorm (LLaMA 방식) [medium]정규화medium
- 241RMSNorm최적화easy
- 242Group Normalization정규화easy
- 243Group Normalization [medium]정규화medium
- 244선형층 Forward (y = Wx + b)신경망easy
- 245LoRA Forward (Low-Rank Adaptation)파인튜닝easy
- 246Linear Layer Backward (VJP) [medium]역전파medium
- 247선형층 Backward (그래디언트)신경망easy
- 248MSE Loss Backward역전파easy
- 2492-Layer MLP Forward/Backward [medium]역전파medium
- 2502-Layer MLP Forward신경망easy
- 251Residual 2-layer MLP (ResNet 블록)신경망easy
- 252Residual MLP Block (ResNet 블록) [medium]신경망medium
- 2532-Layer MLP (tanh 활성)신경망easy
- 254MLP with GELU (BERT/GPT 스타일)신경망easy
- 255Tanh MLP Backward Pass (역전파) [medium]신경망medium
- 256He Initialization신경망easy
- 257He Uniform Initialization신경망easy
- 258Orthogonal Initialization (직교 초기화) [medium]신경망medium
- 259Xavier (Glorot) Initialization신경망easy
- 260Orthogonal Initialization신경망easy
- 261Xavier Uniform + Gain (PyTorch-style) [medium]신경망medium
- 262임베딩 조회신경망easy
- 263Embedding Backward (scatter-add)역전파easy
- 264EmbeddingBag (padding + aggregation) [medium]신경망medium
- 265Bag of Embeddings (평균)신경망easy
- 266Masked Bag of EmbeddingsNLPeasy
- 267SIF Weighted Bag (Arora et al. 2017) [medium]신경망medium
- 268Softmax — 온도(temperature) 조절신경망easy
- 269Top-k Softmax (LLM 샘플링)생성easy
- 270Nucleus (Top-p) Sampling + Temperature [medium]신경망medium
- 271log-softmax (수치 안정)신경망easy
- 272NLL Loss (Negative Log-Likelihood)손실 함수easy
- 273Log-Softmax Backward (역전파) [medium]신경망medium
- 274Causal Mask (autoregressive)신경망easy
- 275Sliding Window Causal Mask어텐션easy
- 276Sliding Window Causal Mask (Longformer/Mistral) [medium]신경망medium
- 277Padding Mask (가변 길이)신경망easy
- 278Causal + Padding 결합 어텐션 마스크어텐션easy
- 279Combined Causal + Padding Mask (B, L, L) [medium]신경망medium
- 280Sinusoidal Positional Encoding신경망easy
- 281Rotary Positional Embedding (RoPE)어텐션easy
- 282RoPE (Rotary Position Embedding) [medium]신경망medium
- 283Token Embedding + PE (더하기)신경망easy
- 284Scaled Embedding + PE (√d 스케일)어텐션easy
- 285BERT-style Input Embedding (token+segment+pos+LN) [medium]신경망medium
- 286GELU 활성화신경망easy
- 287SwiGLU (LLaMA FFN)신경망easy
- 288SwiGLU Activation (LLaMA FFN) [medium]신경망medium
- 289SiLU / Swish 활성화신경망easy
- 290Mish 활성함수신경망easy
- 291Mish Activation [medium]신경망medium
- 292Masked Mean Pooling신경망easy
- 293Weighted Mean Pool (attention pool 기본)NLPeasy
- 294Attention Pooling (learnable query) [medium]신경망medium
- 295Masked Max Pooling신경망easy
- 296Last-Token Pool (GPT 스타일)NLPeasy
- 297GeM Pooling (Generalized Mean) [medium]신경망medium
- 298Scaled Dot-Product Attention 🎯신경망easy
- 299Multi-Head Attention (200번째 - 최종)어텐션easy
- 300Multi-Head Attention (Transformer 핵심) [medium]신경망medium