Linear Regression, Least Square Regression   선형 회귀분석, 최소제곱 회귀분석

(2019-10-25)

SSE, Sum of Square for Error, 오차 제곱 합

Top > [기술공통]
[기초과학]
[진동/파동]
[방송/멀티미디어/정보이론]
[전기전자공학]
[통신/네트워킹]
[정보기술(IT)]
[공학일반(기계,재료등)]
[표준/계측/품질]
[기술경영]
기초과학 >   1. 과학
[수학]
[물리]
[화학]
[지구,천체 과학]
[생명과학]
[뇌과학]
수학 >   1. 수학
[기초수학]
[집합,논리]
[해석학(미적분 등)]
[대수학]
[확률/통계]
[수치해법]
수치해법 >   1. 수치 해석
  2. 천장,마루 함수
  3. R 언어
[오차]
[근 찾기]
[곡선적합 (근사)]
[수치 미분/적분]
[수치 미분방정식]
[MATLAB]
[R 언어]
곡선적합 (근사)   1. 곡선적합(Curve Fitting)
  2. 보간법
  3. 선형 보간법
  4. 다항식 보간법
  5. 스플라인 보간법
  6. 최소자승법
  7. 회귀분석

Top > [기술공통]
[기초과학]
[진동/파동]
[방송/멀티미디어/정보이론]
[전기전자공학]
[통신/네트워킹]
[정보기술(IT)]
[공학일반(기계,재료등)]
[표준/계측/품질]
[기술경영]
기초과학 >   1. 과학
[수학]
[물리]
[화학]
[지구,천체 과학]
[생명과학]
[뇌과학]
수학 >   1. 수학
[기초수학]
[집합,논리]
[해석학(미적분 등)]
[대수학]
[확률/통계]
[수치해법]
확률/통계 > [확률 이란?]
[확률 정리/법칙]
[확률 공간]
[확률 모형,분포]
[확률 변수]
[확률 과정]
[통계량]
[통계학]
통계학 >   1. 통계학
[모집단,표본]
[통계적 기술(記述)]
[통계적 추론]
[통계적 분석]
[비모수 통계]
[베이즈 통계학]
통계적 분석 >   1. 통계적 분석
  2. 수요예측
  3. 주성분 분석
[상관분석]
[분산분석]
[회귀분석]
[실험계획]
회귀분석   1. 회귀분석
  2. 선형 회귀분석
  3. 결정계수
  4. 잔차
  5. 최소 자승법

1. 회귀분석 (Regression Analysis) 이란?

  ㅇ 하나의 변량(결과변량)을 다른 한 조의 변량의 함수로서 이론적 관계를 구하는 것
     - 데이터 값들의 변동성(랜덤성), 관계성에 촛점을 맞춰 이론적 관계를 밝힘

  ㅇ 회귀분석 목표
     - 이론적 모형을 잘 나타내는 진 회귀선(True Regression Line)에 대한 좋은 추정선을 구하는 것


2. 선형 회귀분석 (Linear Regression)

  ㅇ 2 변량 단순 회귀분석 : 선형적인 1차식으로 변량 간의 관계성을 설명하는 것

     - 회귀분석최소자승법을 적용하게 됨
        . 잔차(오차항)의 자승의 총합을 극소화하여,
        . 좋은 추정 회귀선(적합 회귀선,Fitted Regression Line)을 구하는 방법의 일종
     - 즉, 최적의 직선을 구하기 위해,
        . 모든 주어진 데이터오차의 합을 최소화 시킴
        . 이때 수학 미분법을 이용하게 됨


3. 선형 추정회귀선 산출식

  ㅇ 적합 회귀선, 추정 회귀선 (Fitted Regression Line)
     오차(Error) 또는 잔차(Residual)
     오차제곱합(SSE,Sum of Square for Error) 또는 잔차제곱합(Residual Sum of Squares)
     

  ㅇ 여기서, 최소제곱법/최소자승법(Method of Least Square)을 활용하면,
     - SSE 최소화(Minimize SSE)를 위해 b0,b1편미분
       

     - 정규방정식(Normal Equation)
       

     - 최소제곱 추정값(Least Square Estimate)
       

  ㅇ 결국, 선형 최소자승 근사법이란,
     - SSE를 극소화하는 b0,b1 값을 구하여,
       선형 추정회귀선 를 얻는  방법


[곡선적합 (근사)] 1. 곡선적합(Curve Fitting) 2. 보간법 3. 선형 보간법 4. 다항식 보간법 5. 스플라인 보간법 6. 최소자승법 7. 회귀분석
  1.   기술공통
  2.   기초과학
        1. 과학
    1.   수학
          1. 수학
      1.   기초수학
      2.   집합,논리
      3.   해석학(미적분 등)
      4.   대수학
      5.   확률/통계
      6.   수치해법
            1. 수치 해석
            2. 천장,마루 함수
            3. R 언어
        1.   오차
        2.   근 찾기
        3.   곡선적합 (근사)
          1.   1. 곡선적합(Curve Fitting)
              2. 보간법
              3. 선형 보간법
              4. 다항식 보간법
              5. 스플라인 보간법
              6. 최소자승법
              7. 회귀분석
        4.   수치 미분/적분
        5.   수치 미분방정식
        6.   MATLAB
        7.   R 언어
    2.   물리
    3.   화학
    4.   지구,천체 과학
    5.   생명과학
    6.   뇌과학
  3.   진동/파동
  4.   방송/멀티미디어/정보이론
  5.   전기전자공학
  6.   통신/네트워킹
  7.   정보기술(IT)
  8.   공학일반(기계,재료등)
  9.   표준/계측/품질
  10.   기술경영

 
        최근수정     요약목록     참고문헌