LinearModel
선형 회귀 모델
설명
LinearModel은 피팅된 선형 회귀 모델 객체입니다. 회귀 모델은 응답 변수와 예측 변수 사이의 관계를 설명합니다. 선형 회귀 모델의 선형성은 예측 변수 계수의 선형성을 가리킵니다.
LinearModel 객체의 속성을 사용하여 피팅된 선형 회귀 모델을 조사하십시오. 객체 속성에는 계수 추정값, 요약 통계량, 피팅 방법 및 입력 데이터에 대한 정보가 포함됩니다. 객체 함수를 사용하여 응답 변수를 예측하고 선형 회귀 모델을 수정, 평가 및 시각화하십시오.
생성
LinearModel 객체는 fitlm 또는 stepwiselm을 사용하여 생성할 수 있습니다.
fitlm은 고정된 모델 사양을 사용하여 선형 회귀 모델을 데이터에 피팅합니다. 모델에서 항을 추가하거나 제거하려면 addTerms, removeTerms 또는 step을 사용하십시오. 또는 단계적 선형 회귀를 사용하여 모델을 피팅하려면 stepwiselm을 사용하십시오.
속성
객체 함수
예제
행렬의 데이터를 사용하여 선형 회귀 피팅하기
행렬 입력 데이터 세트를 사용하여 선형 회귀 모델을 피팅합니다.
행렬 입력 데이터 세트인 carsmall 데이터 세트를 불러옵니다.
load carsmall
X = [Weight,Horsepower,Acceleration];fitlm을 사용하여 선형 회귀 모델을 피팅합니다.
mdl = fitlm(X,MPG)
mdl =
Linear regression model:
y ~ 1 + x1 + x2 + x3
Estimated Coefficients:
Estimate SE tStat pValue
__________ _________ _________ __________
(Intercept) 47.977 3.8785 12.37 4.8957e-21
x1 -0.0065416 0.0011274 -5.8023 9.8742e-08
x2 -0.042943 0.024313 -1.7663 0.08078
x3 -0.011583 0.19333 -0.059913 0.95236
Number of observations: 93, Error degrees of freedom: 89
Root Mean Squared Error: 4.09
R-squared: 0.752, Adjusted R-Squared: 0.744
F-statistic vs. constant model: 90, p-value = 7.38e-27
모델 표시 화면에 모델식, 추정된 계수 및 모델 요약 통계량이 포함됩니다.
표시된 모델식 y ~ 1 + x1 + x2 + x3은 에 해당합니다.
모델 표시 화면에 Coefficients 속성에 저장된, 추정된 계수 정보도 표시됩니다. Coefficients 속성을 표시합니다.
mdl.Coefficients
ans=4×4 table
Estimate SE tStat pValue
__________ _________ _________ __________
(Intercept) 47.977 3.8785 12.37 4.8957e-21
x1 -0.0065416 0.0011274 -5.8023 9.8742e-08
x2 -0.042943 0.024313 -1.7663 0.08078
x3 -0.011583 0.19333 -0.059913 0.95236
Coefficient 속성은 다음과 같은 열을 포함합니다.
Estimate— 모델에서 각각의 대응되는 항에 대한 계수 추정값입니다. 예를 들어, 상수항(intercept)에 대한 추정값은 47.977입니다.SE— 계수의 표준 오차입니다.tStat— 모델에 주어진 다른 예측 변수를 상정한 경우, '대응하는 계수가 0이 아니다'는 대립가설에 대해 '계수가 0이다'는 귀무가설을 검정하는 데 사용된 각 계수에 대한 t-통계량입니다. 참고로,tStat = Estimate/SE입니다. 예를 들어, 절편에 대한 t-통계량은 47.977/3.8785 = 12.37입니다.pValue— 양측 가설검정에 대한 t-통계량의 p-값입니다. 예를 들어,x2에 대한 t-통계량의 p-값은 0.05보다 크므로 모델의 다른 항을 고려할 때 이 항은 5% 유의수준에서 유의미하지 않습니다.
모델의 요약 통계량은 다음과 같습니다.
Number of observations—NaN값을 포함하지 않는 행 개수입니다. 예를 들어,X와MPG의 행 개수는 100개인데MPG데이터 벡터에NaN값이 6개 있고Horsepower데이터 벡터에 다른 관측값에 대한NaN값이 1개 있기 때문에Number of observations는 93입니다.Error degrees of freedom— n – p이며, 여기서 n은 관측값의 개수이고 p는 절편을 포함하여 모델에 포함된 계수의 개수입니다. 예를 들어, 이 모델은 4개의 예측 변수를 가지므로Error degrees of freedom은 93 – 4 = 89입니다.Root mean squared error— RMS 오차로, 오차 분포의 표준편차를 추정합니다.R-squared및Adjusted R-squared— 각각 결정계수와 수정된 결정계수를 나타냅니다. 예를 들어,R-squared값은 모델이 응답 변수MPG의 변동성의 약 75%를 설명한다는 것을 나타냅니다.F-statistic vs. constant model— 회귀 모델에 대한 F-검정의 검정 통계량으로, 이 모델이 상수항만으로 구성된 퇴화 모델보다 훨씬 더 잘 피팅되는지 여부를 검정합니다.p-value— 모델에 대한 F-검정의 p-값입니다. 예를 들어, 이 모델은 p-값이 7.3816e-27인 경우 유의미합니다.
모델 속성(NumObservations, DFE, RMSE 및 Rsquared)에서, 그리고 anova 함수를 사용하여 이러한 통계량을 확인할 수 있습니다.
anova(mdl,'summary')ans=3×5 table
SumSq DF MeanSq F pValue
______ __ ______ ______ __________
Total 6004.8 92 65.269
Model 4516 3 1505.3 89.987 7.3816e-27
Residual 1488.8 89 16.728
plot을 사용하여 상수(절편) 항을 제외한 전체 모델에 대한 추가 변수 플롯(편회귀 지렛대값 플롯)을 생성합니다.
plot(mdl)
범주형 예측 변수를 사용한 선형 회귀
범주형 예측 변수를 포함하는 선형 회귀 모델을 피팅합니다. 모델에서 기준 레벨을 제어하기 위해 범주형 예측 변수의 범주를 다시 정렬합니다. 그런 다음 anova를 사용하여 범주형 변수의 유의성을 검정합니다.
범주형 예측 변수를 갖는 모델
carsmall 데이터 세트를 불러오고, MPG의 선형 회귀 모델을 Model_Year의 함수로 생성합니다. 숫자형 벡터 Model_Year를 범주형 변수로 처리하기 위해 'CategoricalVars' 이름-값 쌍의 인수를 사용하여 예측 변수를 식별합니다.
load carsmall mdl = fitlm(Model_Year,MPG,'CategoricalVars',1,'VarNames',{'Model_Year','MPG'})
mdl =
Linear regression model:
MPG ~ 1 + Model_Year
Estimated Coefficients:
Estimate SE tStat pValue
________ ______ ______ __________
(Intercept) 17.69 1.0328 17.127 3.2371e-30
Model_Year_76 3.8839 1.4059 2.7625 0.0069402
Model_Year_82 14.02 1.4369 9.7571 8.2164e-16
Number of observations: 94, Error degrees of freedom: 91
Root Mean Squared Error: 5.56
R-squared: 0.531, Adjusted R-Squared: 0.521
F-statistic vs. constant model: 51.6, p-value = 1.07e-15
표시된 모델식 MPG ~ 1 + Model_Year는 다음에 해당합니다.
,
여기서 및 는 Model_Year의 값이 각각 76 및 82일 때 값이 1인 표시 변수입니다. Model_Year 변수는 3개의 고유한 값을 포함하고 있으며, 이는 unique 함수를 사용해서 확인할 수 있습니다.
unique(Model_Year)
ans = 3×1
70
76
82
fitlm은 Model_Year에서 가장 작은 값을 기준 레벨('70')로 선택하고 두 개의 표시 변수 과 를 생성합니다. 모델이 3개의 표시 변수(각 레벨당 1개)와 1개의 절편 항을 포함하는 경우 설계 행렬이 랭크 부족이 되므로 모델은 2개의 표시 변수만 포함합니다.
전체 표시 변수를 갖는 모델
mdl의 모델식을 절편 항이 없고 3개의 표시 변수를 갖는 모델로 해석할 수 있습니다.
.
또는 표시 변수를 수동으로 생성하고 모델식을 지정하여 절편 항이 없고 3개의 표시 변수를 갖는 모델을 생성할 수도 있습니다.
temp_Year = dummyvar(categorical(Model_Year));
Model_Year_70 = temp_Year(:,1);
Model_Year_76 = temp_Year(:,2);
Model_Year_82 = temp_Year(:,3);
tbl = table(Model_Year_70,Model_Year_76,Model_Year_82,MPG);
mdl = fitlm(tbl,'MPG ~ Model_Year_70 + Model_Year_76 + Model_Year_82 - 1')mdl =
Linear regression model:
MPG ~ Model_Year_70 + Model_Year_76 + Model_Year_82
Estimated Coefficients:
Estimate SE tStat pValue
________ _______ ______ __________
Model_Year_70 17.69 1.0328 17.127 3.2371e-30
Model_Year_76 21.574 0.95387 22.617 4.0156e-39
Model_Year_82 31.71 0.99896 31.743 5.2234e-51
Number of observations: 94, Error degrees of freedom: 91
Root Mean Squared Error: 5.56
모델에서 기준 레벨 선택하기
범주형 변수에서 범주 순서를 수정하여 기준 레벨을 선택할 수 있습니다. 먼저 범주형 변수 Year를 만듭니다.
Year = categorical(Model_Year);
categories 함수를 사용하여 범주의 순서를 확인합니다.
categories(Year)
ans = 3x1 cell
{'70'}
{'76'}
{'82'}
Year를 예측 변수로 사용할 경우 fitlm은 첫 번째 범주 '70'을 기준 레벨로 선택합니다. reordercats 함수를 사용하여 Year를 다시 정렬합니다.
Year_reordered = reordercats(Year,{'76','70','82'});
categories(Year_reordered)ans = 3x1 cell
{'76'}
{'70'}
{'82'}
Year_reordered의 첫 번째 범주는 '76'입니다. MPG의 선형 회귀 모델을 Year_reordered의 함수로 생성합니다.
mdl2 = fitlm(Year_reordered,MPG,'VarNames',{'Model_Year','MPG'})
mdl2 =
Linear regression model:
MPG ~ 1 + Model_Year
Estimated Coefficients:
Estimate SE tStat pValue
________ _______ _______ __________
(Intercept) 21.574 0.95387 22.617 4.0156e-39
Model_Year_70 -3.8839 1.4059 -2.7625 0.0069402
Model_Year_82 10.136 1.3812 7.3385 8.7634e-11
Number of observations: 94, Error degrees of freedom: 91
Root Mean Squared Error: 5.56
R-squared: 0.531, Adjusted R-Squared: 0.521
F-statistic vs. constant model: 51.6, p-value = 1.07e-15
mdl2는 '76'을 기준 레벨로 사용하고 두 개의 표시 변수 과 를 포함합니다.
범주형 예측 변수 평가하기
mdl2의 모델 표시 화면은 대응되는 계수가 0인지 여부를 검정하기 위해 각 항의 p-값을 포함합니다. 각 p-값은 각 표시 변수를 조사합니다. 범주형 변수 Model_Year를 표시 변수의 그룹으로 조사하려면 anova를 사용하십시오. 모델의 상수항을 제외한 각 변수에 대해 분산분석 통계량을 포함하는 성분 분산분석표를 반환하도록 'components'(디폴트 값) 옵션을 사용합니다.
anova(mdl2,'components')ans=2×5 table
SumSq DF MeanSq F pValue
______ __ ______ _____ __________
Model_Year 3190.1 2 1595.1 51.56 1.0694e-15
Error 2815.2 91 30.936
성분 분산분석표는 표시 변수의 p-값보다 작은 Model_Year 변수의 p-값을 포함합니다.
로버스트 선형 회귀 모델 피팅하기
시멘트 조성물이 해당 시멘트의 경화 열에 미치는 영향을 측정하는 hald 데이터 세트를 불러옵니다.
load hald이 데이터 세트는 변수 ingredients와 heat를 포함합니다. 행렬 ingredients는 시멘트에 존재하는 네 가지 화학 성분의 조성 비율을 포함합니다. 벡터 heat는 각 시멘트 표본에 대해 180일이 지난 후의 경화 열 값을 포함합니다.
데이터에 로버스트 선형 회귀 모델을 피팅합니다.
mdl = fitlm(ingredients,heat,'RobustOpts','on')
mdl =
Linear regression model (robust fit):
y ~ 1 + x1 + x2 + x3 + x4
Estimated Coefficients:
Estimate SE tStat pValue
________ _______ ________ ________
(Intercept) 60.09 75.818 0.79256 0.4509
x1 1.5753 0.80585 1.9548 0.086346
x2 0.5322 0.78315 0.67957 0.51596
x3 0.13346 0.8166 0.16343 0.87424
x4 -0.12052 0.7672 -0.15709 0.87906
Number of observations: 13, Error degrees of freedom: 8
Root Mean Squared Error: 2.65
R-squared: 0.979, Adjusted R-Squared: 0.969
F-statistic vs. constant model: 94.6, p-value = 9.03e-07
자세한 내용은 로버스트 피팅의 결과와 표준 최소제곱 피팅의 결과를 비교하는 Reduce Outlier Effects Using Robust Regression 항목을 참조하십시오.
단계적 회귀를 사용하여 선형 모델 피팅하기
시멘트 조성물이 해당 시멘트의 경화 열에 미치는 영향을 측정하는 hald 데이터 세트를 불러옵니다.
load hald이 데이터 세트는 변수 ingredients와 heat를 포함합니다. 행렬 ingredients는 시멘트에 존재하는 네 가지 화학 성분의 조성 비율을 포함합니다. 벡터 heat는 각 시멘트 표본에 대해 180일이 지난 후의 경화 열 값을 포함합니다.
데이터에 단계적 선형 회귀 모델을 피팅합니다. 모델에 항을 추가하는 기준에 해당하는 분계점으로 0.06을 지정합니다.
mdl = stepwiselm(ingredients,heat,'PEnter',0.06)1. Adding x4, FStat = 22.7985, pValue = 0.000576232 2. Adding x1, FStat = 108.2239, pValue = 1.105281e-06 3. Adding x2, FStat = 5.0259, pValue = 0.051687 4. Removing x4, FStat = 1.8633, pValue = 0.2054
mdl =
Linear regression model:
y ~ 1 + x1 + x2
Estimated Coefficients:
Estimate SE tStat pValue
________ ________ ______ __________
(Intercept) 52.577 2.2862 22.998 5.4566e-10
x1 1.4683 0.1213 12.105 2.6922e-07
x2 0.66225 0.045855 14.442 5.029e-08
Number of observations: 13, Error degrees of freedom: 10
Root Mean Squared Error: 2.41
R-squared: 0.979, Adjusted R-Squared: 0.974
F-statistic vs. constant model: 230, p-value = 4.41e-09
기본적으로, 시작 모델은 상수 모델입니다. stepwiselm은 순방향 선택을 사용하며, 대응되는 p-값이 PEnter 값 0.06보다 작기 때문에 x4, x1, x2 항을 이 순서대로 추가합니다. stepwiselm은 그런 다음 역방향 제거를 사용하며, x2가 모델에 포함되면 x4의 p-값이 PRemove의 디폴트 값인 0.1보다 커지기 때문에 모델에서 x4를 제거합니다.
세부 정보
대체 기능
고차원 데이터 세트에 대한 계산 시간을 단축시키려면
fitrlinear함수를 사용하여 선형 회귀 모델을 피팅하십시오.회귀를 정규화하려면
fitrlinear,lasso,ridge또는plsregress를 사용하십시오.fitrlinear는 고차원 데이터 세트에 대한 회귀를 Lasso 또는 능형 회귀를 사용하여 정규화합니다.lasso는 Lasso 또는 신축망을 사용하여 선형 회귀에서 중복된 예측 변수를 제거합니다.ridge는 상관관계를 갖는 항이 있는 회귀를 능형 회귀를 사용하여 정규화합니다.plsregress는 상관관계를 갖는 항이 있는 회귀를 부분 최소제곱을 사용하여 정규화합니다.
확장 기능
버전 내역
R2012a에 개발됨
You can also select a web site from the following list:
Americas
- América Latina (Español)
- Canada (English)
- United States (English)
Europe
- Belgium (English)
- Denmark (English)
- Deutschland (Deutsch)
- España (Español)
- Finland (English)
- France (Français)
- Ireland (English)
- Italia (Italiano)
- Luxembourg (English)
- Netherlands (English)
- Norway (English)
- Österreich (Deutsch)
- Portugal (English)
- Sweden (English)
- Switzerland
- United Kingdom (English)