Linear Regression, Least Square Regression   선형 회귀분석, 최소제곱 회귀분석

(2018-04-25)

SSE, Sum of Square for Error, 오차 제곱 합, 잔차 제곱 합

Top > [기술공통]
[기초과학]
[진동/파동]
[방송/멀티미디어/정보이론]
[전기전자공학]
[통신/네트워킹]
[정보기술(IT)]
[공업일반(기계,재료등)]
[표준/계측/품질]
[기술경영]
기초과학 >   1. 과학
[수학]
[물리]
[화학]
[지구,천체 과학]
[생명과학]
[뇌과학]
수학 >   1. 수학
[기초수학]
[집합,논리]
[해석학(미적분 등)]
[대수학]
[확률/통계]
[수치해법]
확률/통계 > [확률 이란?]
[확률공간]
[확률 모형,분포]
[확률 변수]
[확률 과정]
[통계량]
[통계학]
통계학 >   1. 통계학
[모집단,표본]
[통계적 기술(記述)]
[통계적 추론]
[통계적 분석]
[베이즈 통계학]
통계적 분석 >   1. 통계적 분석
  2. 실험계획법
  3. 분산분석
  4. 수요예측
  5. 주성분 분석
[상관분석]
[회귀분석]
회귀분석   1. 회귀분석
  2. 선형 회귀분석
  3. 결정계수
  4. 잔차
  5. 최소 자승법

Top > [기술공통]
[기초과학]
[진동/파동]
[방송/멀티미디어/정보이론]
[전기전자공학]
[통신/네트워킹]
[정보기술(IT)]
[공업일반(기계,재료등)]
[표준/계측/품질]
[기술경영]
기초과학 >   1. 과학
[수학]
[물리]
[화학]
[지구,천체 과학]
[생명과학]
[뇌과학]
수학 >   1. 수학
[기초수학]
[집합,논리]
[해석학(미적분 등)]
[대수학]
[확률/통계]
[수치해법]
수치해법 >   1. 수치 해석
  2. 천장,마루 함수
[오차]
[근 찾기]
[곡선적합 (근사)]
[수치 미분/적분]
[수치 미분방정식]
[MATLAB]
곡선적합 (근사)   1. 곡선적합(Curve Fitting)
  2. 보간법
  3. 선형 보간법
  4. 다항식 보간법
  5. 스플라인 보간법
  6. 최소자승법
  7. 회귀분석

1. 회귀분석 (Regression Analysis) 이란?

  ㅇ 하나의 변량(결과변량)을 다른 한 조의 변량의 함수로서 이론적 관계를 구하는 것
     - 데이터 값들의 변동성(랜덤성), 관계성에 촛점을 맞춰 이론적 관계를 밝힘

  ㅇ 회귀분석 목표
     - 이론적 모형을 잘 나타내는 진 회귀선(True Regression Line)에 대한 좋은 추정선을 구함


2. 선형 회귀분석 (Linear Regression)

  ㅇ 2 변량 단순 회귀분석 : 선형적인 1차식으로 변량 간의 관계성을 설명하는 것

     - 회귀분석최소자승법을 적용하게 됨
        . 잔차(오차항)의 자승의 총합을 극소화하여,
        . 좋은 추정 회귀선(적합 회귀선,Fitted Regression Line)을 구하는 방법의 일종
     - 즉, 최적의 직선을 구하기 위해,
        . 모든 주어진 데이터의 오차의 합을 최소화 시킴
        . 이때 수학 미분법을 이용하게 됨


3. 선형 추정회귀선 산출식

  ㅇ 적합회귀선,추정회귀선(Fitted Regression Line)
     잔차(Residual),오차(Error)
     오차제곱합(SSE,Sum of Square for Error),잔차제곱합(Residual Sum of Square)
     

  ㅇ 여기서, 최소제곱법/최소자승법(Method of Least Square)을 활용하면,
     - SSE 최소화(Minimize SSE)를 위해 b0,b1편미분
       

     - 정규방정식(Normal Equation)
       

     - 최소제곱 추정값(Least Square Estimate)
       

  ㅇ 결국, 선형 최소자승 근사법이란,
     - SSE를 극소화하는 b0,b1 값을 구하여,
       선형 추정회귀선 를 얻는  방법


[회귀분석] 1. 회귀분석 2. 선형 회귀분석 3. 결정계수 4. 잔차 5. 최소 자승법

 
        최근수정     요약목록     참고문헌