Regression Analysis   회귀 분석

(2020-01-23)

회귀, 회귀 식, 회귀 계수

Top > [기술공통]
[기초과학]
[진동/파동]
[방송/멀티미디어/정보이론]
[전기전자공학]
[통신/네트워킹]
[정보기술(IT)]
[공업일반(기계,재료등)]
[표준/계측/품질]
[기술경영]
기초과학 >   1. 과학
[수학]
[물리]
[화학]
[지구,천체 과학]
[생명과학]
[뇌과학]
수학 >   1. 수학
[기초수학]
[집합,논리]
[해석학(미적분 등)]
[대수학]
[확률/통계]
[수치해법]
확률/통계 > [확률 이란?]
[확률 정리/법칙]
[확률 공간]
[확률 모형,분포]
[확률 변수]
[확률 과정]
[통계량]
[통계학]
통계학 >   1. 통계학
[모집단,표본]
[통계적 기술(記述)]
[통계적 추론]
[통계적 분석]
[비모수 통계]
[베이즈 통계학]
통계적 분석 >   1. 통계적 분석
  2. 수요예측
  3. 주성분 분석
[상관분석]
[분산분석]
[회귀분석]
[실험계획]
회귀분석   1. 회귀분석
  2. 선형 회귀분석
  3. 결정계수
  4. 잔차
  5. 최소 자승법

Top > [기술공통]
[기초과학]
[진동/파동]
[방송/멀티미디어/정보이론]
[전기전자공학]
[통신/네트워킹]
[정보기술(IT)]
[공업일반(기계,재료등)]
[표준/계측/품질]
[기술경영]
기초과학 >   1. 과학
[수학]
[물리]
[화학]
[지구,천체 과학]
[생명과학]
[뇌과학]
수학 >   1. 수학
[기초수학]
[집합,논리]
[해석학(미적분 등)]
[대수학]
[확률/통계]
[수치해법]
수치해법 >   1. 수치 해석
  2. 천장,마루 함수
  3. R 언어
[오차]
[근 찾기]
[곡선적합 (근사)]
[수치 미분/적분]
[수치 미분방정식]
[MATLAB]
[R 언어]
곡선적합 (근사)   1. 곡선적합(Curve Fitting)
  2. 보간법
  3. 선형 보간법
  4. 다항식 보간법
  5. 스플라인 보간법
  6. 최소자승법
  7. 회귀분석

1. 회귀분석 (Regression Analysis)변수들 사이에 함수적 관계를 탐색하는 것
     - 일련의 변수들 간에 확률적 관계를 갖을 때,
        . (예측변수/독립변수반응변수/종속변수 간에) 
     - 이 관련성을 랜덤변수함수모형에 맞추고,
        . 수학함수 관계식이 아닌 확률적 관계식에 의한 맞춤(Fitting,곡선적합,근사)
     - 이를통해 분석 및 검정하는 것

  ※ [용어 유래]
     - 회귀(regression)이라는 용어는, 영국 우생학자 칼턴(F. Galton,1822~1891)이,
     - 아들의 키가 아버지의 키에서 받은 영향(본래 모습으로 되돌아가는 경향)을 언급하며 처음 사용

  ※ [지향점] 데이터 집단이 갖는 추세 모형 추구
     - 각 점들을 정확히 통과하지는 않지만, 데이터 집단의 경향을 보이는 하나의 곡선을 찾음


2. 회귀분석의 용도변수들 간에 가설함수 관계(선형적 관계 등)의 탐색, 규명, 분석, 검정
     - 관심있는 변수의 최적값이 다른 변수가 어떤 값을 취할 때 얻어지는지를 찾음
     - 변수 간의 최선의 관계성, 관계의 강도 등을 분석

  ㅇ 한 변수의 변화로부터 다른 변수의 변화를 예측
     - 독립변수(회귀변수/설명변수/예측변수)에 따른 종속변수(반응변수)의 변화를 예측
     - 과거의 추세를 기초로하여 미래를 예측 
     - 다만, 구조적인 변화가 있는 경우 예측에 한계를 보임


3. 회귀분석의 구분확률변수 간에 관계성에 따라
     - 선형적   : 선형 회귀분석최소자승법 참조
        .. 확률변수 간에 선형성 결합 정도의 척도 => 상관계수 참조
        .. 만일, 상관계수가 높으면 한 변수 정보로부터 다른 변수예측하는데
           높은 신뢰도를 기대할 수 있음
     - 비선형적 : 비선형 회귀분석

  ㅇ 회귀변수(독립변수)의 수,관계에 따라
     - 단순 회귀분석 (이 변량 회귀, bivariate regression, simple linear regression)
        . 1개 회귀변수(독립변수)와 1개 반응변수(종속변수) 간의 선형적 관계
           .. 例) {# y = a_0 + a_1x_1 #}

     - 다중 회귀분석 (다 변량 회귀, multiple regression)
        . 다수 회귀변수(독립변수)와 1개 반응변수(종속변수) 간의 선형적 관계
           .. 例) {# y = a_0 + a_1x_1 + a_3x_3 + \cdots + a_mx_m#}

     - 곡선 회귀분석
        . 회귀변수(독립변수)가 1차가 아닌 2차 이상의 고차 함수적인 관계


4. 회귀분석에서 통계적 검정의 종류

  ㅇ 회귀 모형 자체에 대한 검정

  ㅇ 각 개별 변수유의성 검정


5. 회귀분석의 주요 용어

  ㅇ 회귀 모형
     - 변수들 간의 관계를 나타내는 통계모형

  ㅇ 회귀 식(Regression Equation) : Y = f() + ε
     - 변수들 간의 관계를 최적으로 나타내는 수학적 관계식

  ㅇ 회귀 계수 (Regression Coefficient) = 회귀선의 기울기
     - 반응변수에 미치는 예측변수의 가중치
        . 예측변수가 한 단위 만큼 변화함에 따라, 반응변수에 미치는 영향력의 크기
        . 회귀식에 나타나는 미지의 계수(모수)
     * 결국, 이 회귀계수들을 추정하는(구하는) 일이 회귀분석인 셈


6. 선형 회귀모형 例)

    
[# \begin{array}{ll} Y & = & f(X_1,X_2,\cdots,X_n) + \epsilon \\ & = & \beta_0 + \beta_1 X1 + \beta_2 X_2 + \cdots + \beta_n X_n + \epsilon \end{array} #]
ㅇ (Y: 반응변수,X: 예측변수,n: 예측변수 개수,ε: 확률오차,f: 변수들간의 함수관계, β: 회귀모수 또는 회귀계수) ㅇ 결국, 회귀계수 β가 데이터들로부터 추정되어야하는 미지의 상수


[회귀분석] 1. 회귀분석 2. 선형 회귀분석 3. 결정계수 4. 잔차 5. 최소 자승법

 
        최근수정     요약목록     참고문헌