학습 방식, 학습 전략

1. 학습 방식 (학습 전략)

  ※ "기계 학습을 어떤 방식으로 수행할 것인가?"에 대한 분류

  ㅇ 게으른 학습 (Lazy Learning)
     - 학습 단계에서 거의 모델을 만들지 않음
     - 예측 시점에 모든 계산 수행
     - 例) KNN, Case-Based Reasoning

  ㅇ 열정적 학습 (Eager Learning)
     - 학습 단계에 모델을 완성
     - 예측은 빠르고 가벼움
     - 例) 회귀, SVM, 신경망, 랜덤 포레스트

  ㅇ 파라메트릭 / 비 파라메트릭 학습
     - 파라메트릭 (parametric)  :  고정된 형태의 모델 (선형 회귀, 로지스틱 회귀)
     - 비 파라메트릭 (non-parametric)  :  데이터가 많아지면 모델 복잡도가 증가
        . 例) KNN, GMM, Kernel methods

  ㅇ 배치 학습 / 온라인 학습
     - 배치 학습 (Batch)  :  전체 데이터를 한꺼번에 학습
     - 온라인 학습 (Online)  :  데이터가 들어올 때마다 업데이트 (SGD)

  ㅇ 생성 모델 / 판별 모델 학습
     - 생성 (Generative)  :  데이터 분포를 모델링
        . 例) Naive Bayes, GAN, VAE
     - 판별 (Discriminative)  :  입력 → 출력의 경계만 학습
        . 例) SVM, Logistic Regression