1. 기계학습에서, `문제 유형` : `무엇을 얻어낼 것인가`에 따른 구분
※ (수집해 놓은 데이터를 기초로, 어떤 문제 유형인가를 따짐)
- 사실상, 어떤 판단 규칙을 만들어낼 것인가에 따른 유형 구분
ㅇ 핵심 문제 유형 (예측 및 추론 중심) : (기계학습에서, 교과서적인 대표 3대 학습 문제 유형)
- 회귀 (Regression) : 입력 값을 바탕으로, 연속적인 출력값(확률값,숫자값 등)을 추정/예측
- 분류 (Classification) : 입력 값을 바탕으로, 특정 범주를 추정/예측
- 군집화 (Clustering) : 입력 값들을 비슷한 특성별로 여러 그룹으로 분할, 큰 단위로 구조화
ㅇ 기타 확장,응용 문제 유형
- 유사성 매칭 : 새 데이터와 기존 데이터 간의 유사도를 계산해 가장 비슷한 항목을 찾는 것
- 연관성 분석 : 데이터 항목 간의 흥미로운 관계나 패턴(연관 규칙)을 찾아내는 것
- 링크 예측 : 네트워크(그래프) 상에서 미래에 생길 연결(링크)을 예측하는 문제
- 차원 축소 (Dimensionality Reduction) : 고 차원의 데이터를 저 차원으로 축소, 변환하는 것
- 이상 탐지 (Anomaly Detection) : 정상 패턴과 다른 비정상적 데이터 식별
- 추천 (Recommendation) : 과거 행동,선호 기반으로 미래 행동 예측
- 앙상블 방법 (Ensemble method) : 여러 단순 모델(weak learner)을 결합해 성능을 높이는 기법
. 각 개별 학습기는, 일정 수준의 정확성(accuracy) 및 다양성(diversity)을 가져야 함
. 통상, 앙상블 학습 결과의 생성은, 다수결 투표 방법(voting)을 통해 이루어짐
2. 기계학습에서, `학습법 (학습 시나리오)` : `어떻게 학습시킬 것인가`에 따른 구분
※ (학습을 위한 `정답 제공` 및 `피드백 제공` 유무에 따른 구분)
ㅇ 지도 학습 (Supervised Learning) : 미지의 값 예측
- 문제 - 정답의 쌍을 주고, 이를 통해 일반화 능력을 키움
. 입력 및 이에 대해 기대되는 출력을 학습 데이터로 제시하고, (입출력 데이터 쌍 필요)
. 기대되는 출력과 같아지도록 (예측토록),
. 시스템을 변화시키는 과정
- 문제 유형
. (연속적) : 회귀, 랭킹/추천 (실수형 평점 주는 등)
. (이산적) : 분류, 랭킹/추천 (이진 분류 등)
- 학습 알고리즘 例
. 선형 회귀분석, 로지스틱 회귀분석, 결정 트리, 정규화, KNN, SVM 등
* 단, 과적합 방지 필요 (일반화 성능 고려)
. 학습 데이터에서 만 과적합(Overfitting) 됨을 방지하기 위해,
. 학습 데이터(학습용)와 테스트 데이터(검증용)를 구분하여, 추정과 검증을 구분토록 됨
ㅇ 비 지도 학습 / 자율 학습 (Unsupervised Learning) : 패턴 추출
- 정답이 없이 모델을 구축하는 것
. 입력 데이터 집합에 내재하는 숨은 구조/성질을 찾는 과정 (패턴 추출)
- 문제 유형
. 군집화, 밀도 추정 (데이터 분포 추정), 이상 탐지, 토픽 모델링, 차원 축소 등
- 학습 알고리즘 例
. 차원 축소(주성분 분석 등), 군집화 (K-means,DBSCAN,GMM 등),
연관성 분석 (Apriori,FP-Growth 등), 이상 탐지 (Isolation Forest,One-Class SVM 등)
ㅇ 강화 학습 (Reinforcement Learning, 보상 학습) : 상호작용에 의한 시스템 구축
- 전체 결과가 가장 좋도록, 행동을 찾는 학습 (평가 후 보상을 통한 학습)
. `환경과의 계속된 상호작용 (선택과 피드백의 반복)`을 하면서,
.. 장기적인 이득(보상)을 최대화시킨다는 원칙을 갖고,
.. 자신의 상태를 파악하고,
.. 다음 행동을 결정하는 (의사결정) 시스템을 구축
.. (키워드 : 환경/상호작용, 상태, 행동, 보상)
. 지도 학습과 달리,
.. 학습 알고리즘에 입력값과 최적의 출력값을 예시로 주지 않고,
.. 일련의 시행착오(trial and error)를 통해,
.. 다음 행동을 정하는 알고리즘의 학습
. 결국, 컴퓨터가 알아서, 스스로의 행동 알고리즘을 만들어낼 수 있도록 함
- 문제 유형
. 행동 - 보상의 짝이 아니라, 상태에 대한 행동을 찾는 것
. 순차적 의사결정 문제 : 연이은 행동을 잘 선택해야 하는 문제
- 학습 알고리즘 例
. 가치 기반 (Value-based), 정책 기반 (Policy-based), 모델 기반 (Model-based)
.. Q-learning, 정책 경사(Policy Gradient) 등
* 특히, 강화 학습과 딥러닝의 조합으로, 정교한 의사 결정 구조를 만듬
3. 기계학습에서, `일반화` : `어떻게 일반화하는가`에 따른 구분
ㅇ 사례 기반 학습 (instance-based)
- 사례를 기억하여 학습하고, 이로부터 유사도를 측정하여, 새로운 데이터에 일반화함
ㅇ 모델 기반 학습 (model-based)
- 가급적 좋은 모델을 만들어가며 예측이 잘들어맞도록 모델을 일반화함
4. [참고사항]
ㅇ 앙상블 방법 (Ensemble method) : 여러 모델을 결합하여 하나의 강력한 예측 모델을 만듬
- 개별 모델(weak learner)의 예측을 조합함으로써 성능을 향상시키는 것
. 추정이 간단하고, 그다지 성능이 나오지 않는 모델들을 잘 조합함으로써,
. 강력한 성능을 끌어내는 기법