모델 개발과 평가

합성 데이터 생성, 특징 선택, 특징 엔지니어링, 모델 선택, 하이퍼파라미터 최적화, 교차 검증, 잔차 진단, 플롯

고품질 회귀 모델을 개발하는 경우 적합한 특징(또는 예측 변수)을 선택하고, 하이퍼파라미터(데이터에 피팅되지 않는 모델 모수)를 조율하고, 잔차 진단을 통해 모델 가정을 평가해야 합니다. 하이퍼파라미터의 값을 선택하고 선택한 값을 사용하여 모델에 대한 교차 검증을 반복하는 방식으로 하이퍼파라미터를 조율할 수 있습니다. 이 과정을 통해 여러 개의 모델이 생성되며, 이러한 모델 중에서 가장 적합한 모델이 추정된 일반화 오차를 최소화하는 모델일 수 있습니다.

다음 작업을 수행하여 회귀 모델을 만들고 평가할 수 있습니다.

회귀 모델을 훈련시키기 전에 synthesizeTabularData 또는 binningTabularSynthesizer를 사용하여 기존 데이터 세트에서 합성 데이터를 생성합니다.
회귀 모델을 훈련시키기 전에 genrfeatures를 사용하여 새로운 특징을 엔지니어링합니다.
회귀 학습기 앱을 사용하여 대화형 방식으로 회귀 모델을 만들고 평가합니다.
fitrauto를 사용하여, 조정된 하이퍼파라미터를 가진 모델을 자동으로 선택합니다. 이 함수는 다양한 하이퍼파라미터 값으로 회귀 모델 유형을 선택해 보고 잘 수행될 것으로 예상되는 최종 모델을 반환합니다. 어떤 회귀 모델 유형이 데이터에 가장 적합한지 확신하지 못할 경우 fitrauto를 사용하십시오.
하이퍼파라미터 값을 선택하고 그러한 값을 사용해 모델을 교차 검증하여 특정 모델의 하이퍼파라미터를 조정합니다. 예를 들어, SVM 모델을 조정하려면 상자 제약 조건과 커널 스케일의 집합을 선택하고, 값의 쌍 각각에 대해 모델을 교차 검증한 후 10겹 교차 검증된 평균제곱오차 추정값과 비교하십시오. Statistics and Machine Learning Toolbox™에서 제공되는 특정 비모수적 회귀 함수는 베이즈 최적화, 그리드 탐색 또는 임의 탐색을 통해 자동 하이퍼파라미터 조율 기능을 제공합니다. 베이즈 최적화를 구현하는 메인 함수 bayesopt는 여러 다른 응용 사례에 사용할 수 있을 정도로 유연합니다. 자세한 내용은 Bayesian Optimization Workflow 항목을 참조하십시오.
lime, shapley, plotPartialDependence를 사용하여 회귀 모델을 해석합니다.

앱

회귀 학습기

머신러닝 지도 학습을 사용하여 데이터를 예측하도록 회귀 모델 훈련시키기

함수

모두 확장

데이터 합성

`synthesizeTabularData`	Synthesize tabular data (R2024b 이후)
`binningTabularSynthesizer`	Binning-based synthesizer for tabular data synthesis (R2024b 이후)
`synthesizeTabularData`	Synthesize tabular data using binning-based synthesizer (R2024b 이후)
`mmdtest`	Two-sample multivariate hypothesis test using maximum mean discrepancy (MMD) (R2024b 이후)
`knntest`	Two-sample multivariate hypothesis test using k-nearest neighbors (KNN) (R2025a 이후)

특징 선택

`fsrftest`	Univariate feature ranking for regression using F-tests
`fsrmrmr`	Rank features for regression using minimum redundancy maximum relevance (MRMR) algorithm (R2022a 이후)
`fsrnca`	Feature selection using neighborhood component analysis for regression
`oobPermutedPredictorImportance`	Out-of-bag predictor importance estimates for random forest of regression trees by permutation
`partialDependence`	Compute partial dependence
`permutationImportance`	Predictor importance by permutation (R2024a 이후)
`plotPartialDependence`	Create partial dependence plot (PDP) and individual conditional expectation (ICE) plots
`predictorImportance`	Estimates of predictor importance for regression tree
`predictorImportance`	Estimates of predictor importance for regression ensemble of decision trees
`relieff`	Rank importance of predictors using ReliefF or RReliefF algorithm
`selectFeatures`	Select important features for NCA classification or regression (R2023b 이후)
`sequentialfs`	Sequential feature selection using custom criterion
`stepwiselm`	Perform stepwise regression
`stepwiseglm`	Create generalized linear regression model by stepwise regression

특징 엔지니어링

`genrfeatures`	Perform automated feature engineering for regression (R2021b 이후)
`describe`	Describe generated features (R2021a 이후)
`transform`	Transform new data using generated features (R2021a 이후)

자동 모델 선택

fitrauto Automatically select regression model with optimized hyperparameters

하이퍼파라미터 최적화

`bayesopt`	Select optimal machine learning hyperparameters using Bayesian optimization
`hyperparameters`	Variable descriptions for optimizing a fit function
`optimizableVariable`	`bayesopt` 또는 기타 최적화 함수에 대한 변수 설명
`learnersize`	Compact size of trained machine learning model object (R2024b 이후)
`plot`	Plot aggregated hyperparameter optimization results (R2024b 이후)
`resume`	Resume hyperparameter optimization problems (R2024b 이후)
`summary`	Summary table for `AggregateBayesianOptimization` object (R2024b 이후)

교차 검증

시간 독립적 데이터의 경우

`crossval`	Estimate loss using cross-validation
`cvpartition`	교차 검증을 위한 데이터 분할
`repartition`	Repartition data for cross-validation
`summary`	Summarize cross-validation partition with stratification or grouping variable (R2025a 이후)
`test`	교차 검증을 위한 테스트 인덱스
`training`	교차 검증을 위한 훈련 인덱스

시계열 데이터의 경우

`tspartition`	Partition time series data for cross-validation (R2022b 이후)
`test`	Test indices for time series cross-validation (R2022b 이후)
`training`	Training indices for time series cross-validation (R2022b 이후)

모델 해석

LIME(Local Interpretable Model-Agnostic Explanations)

`lime`	Local interpretable model-agnostic explanations (LIME)
`fit`	Fit simple model of local interpretable model-agnostic explanations (LIME)
`plot`	Plot results of local interpretable model-agnostic explanations (LIME)

섀플리 값

`shapley`	Shapley values (R2021a 이후)
`fit`	Compute Shapley values for query points (R2021a 이후)
`plot`	Plot Shapley values using bar graphs (R2021a 이후)
`boxchart`	Visualize Shapley values using box charts (box plots) (R2024a 이후)
`plotDependence`	Plot dependence of Shapley values on predictor values (R2024b 이후)
`swarmchart`	Visualize Shapley values using swarm scatter charts (R2024a 이후)

부분 종속성

`partialDependence`	Compute partial dependence
`plotPartialDependence`	Create partial dependence plot (PDP) and individual conditional expectation (ICE) plots

선형 모델 진단

`coefCI`	Confidence intervals of coefficient estimates of linear regression model
`coefTest`	Linear hypothesis test on linear regression model coefficients
`dwtest`	Durbin-Watson test with linear regression model object
`plot`	Scatter plot or added variable plot of linear regression model
`plotAdded`	Added variable plot of linear regression model
`plotAdjustedResponse`	Adjusted response plot of linear regression model
`plotDiagnostics`	Plot observation diagnostics of linear regression model
`plotEffects`	Plot main effects of predictors in linear regression model
`plotInteraction`	Plot interaction effects of two predictors in linear regression model
`plotResiduals`	Plot residuals of linear regression model
`plotSlice`	Plot of slices through fitted linear regression surface

일반화 선형 모델 진단

`coefCI`	Confidence intervals of coefficient estimates of generalized linear regression model
`coefTest`	Linear hypothesis test on generalized linear regression model coefficients
`devianceTest`	Analysis of deviance for generalized linear regression model
`plotDiagnostics`	Plot observation diagnostics of generalized linear regression model
`plotResiduals`	Plot residuals of generalized linear regression model
`plotSlice`	Plot of slices through fitted generalized linear regression surface

비선형 모델 진단

`coefCI`	Confidence intervals of coefficient estimates of nonlinear regression model
`coefTest`	Linear hypothesis test on nonlinear regression model coefficients
`plotDiagnostics`	Plot diagnostics of nonlinear regression model
`plotSlice`	Plot of slices through fitted nonlinear regression surface

선형 가설검정

linhyptest Linear hypothesis test

객체

모두 확장

특징 선택

FeatureSelectionNCARegression Feature selection for regression using neighborhood component analysis (NCA)

특징 엔지니어링

FeatureTransformer Generated feature transformations (R2021a 이후)

하이퍼파라미터 최적화

`BayesianOptimization`	Bayesian optimization results
`HyperparameterOptimizationOptions`	Hyperparameter optimization options (R2024b 이후)
`AggregateBayesianOptimization`	Aggregate Bayesian optimization results (R2024b 이후)

도움말 항목

회귀 학습기 앱 워크플로

회귀 학습기 앱에서 회귀 모델 훈련시키기
자동화된 훈련, 수동 훈련, 병렬 훈련 등 회귀 모델을 훈련시키고 비교하고 향상시킬 수 있는 워크플로입니다.
Choose Regression Model Options
In Regression Learner, automatically train a selection of models, or compare and tune options of linear regression models, regression trees, support vector machines, Gaussian process regression models, kernel approximation models, ensembles of regression trees, and regression neural networks.
회귀 학습기 앱을 사용한 특징 선택과 특징 변환
회귀 학습기에서 플롯 또는 특징 순위 지정 알고리즘을 사용하여 유용한 예측 변수를 식별하고, 포함할 특징을 선택하고, PCA를 사용하여 특징을 변환합니다.
회귀 학습기의 모델 성능 시각화 및 평가하기
모델 메트릭을 비교하고 결과를 시각화합니다.

특징 선택

Introduction to Feature Selection
Learn about feature selection algorithms and explore the functions available for feature selection.
Sequential Feature Selection
This topic introduces sequential feature selection and provides an example that selects features sequentially using a custom criterion and the sequentialfs function.
Neighborhood Component Analysis (NCA) Feature Selection
Neighborhood component analysis (NCA) is a non-parametric method for selecting features with the goal of maximizing prediction accuracy of regression and classification algorithms.
Robust Feature Selection Using NCA for Regression
Perform feature selection that is robust to outliers using a custom robust loss function in NCA.
Select Predictors for Random Forests
Select split-predictors for random forests using interaction test algorithm.

특징 엔지니어링

Automated Feature Engineering for Regression
Use genrfeatures to engineer new features before training a regression model. Before making predictions on new data, apply the same feature transformations to the new data set.

자동 모델 선택

Automated Regression Model Selection with Bayesian and ASHA Optimization
Use fitrauto to automatically try a selection of regression model types with different hyperparameter values, given training predictor and response data.

하이퍼파라미터 최적화

Bayesian Optimization Workflow
Perform Bayesian optimization using a fit function or by calling bayesopt directly.
Variables for a Bayesian Optimization
Create variables for Bayesian optimization.
Bayesian Optimization Objective Functions
Create the objective function for Bayesian optimization.
Constraints in Bayesian Optimization
Set different types of constraints for Bayesian optimization.
Optimize a Boosted Regression Ensemble
Minimize cross-validation loss of a regression ensemble.
Bayesian Optimization Plot Functions
Visually monitor a Bayesian optimization.
Bayesian Optimization Output Functions
Monitor a Bayesian optimization.
베이즈 최적화 알고리즘
베이즈 최적화의 기본 알고리즘을 이해합니다.
Bayesian Optimization with Tall Arrays
Perform Bayesian optimization to select optimal parameters for training a kernel classifier on tall arrays.
Parallel Bayesian Optimization
How Bayesian optimization works in parallel.

교차 검증

Implement Cross-Validation Using Parallel Computing
Speed up cross-validation using parallel computing.
Perform Time Series Direct Forecasting with directforecaster
Perform time series direct forecasting with the directforecaster function.
Manually Perform Time Series Forecasting Using Ensembles of Boosted Regression Trees
Manually perform single-step and multiple-step time series forecasting with ensembles of boosted regression trees.

모델 해석

Interpret Machine Learning Models
Explain model predictions using the lime and shapley objects and the plotPartialDependence function.
Shapley Values for Machine Learning Model
Compute Shapley values for a machine learning model using interventional algorithm or conditional algorithm.
Shapley Output Functions
Stop Shapley computations, create plots, save information to your workspace, or perform calculations while using shapley.

불확실성 추정

Uncertainty Estimation for Regression
Learn about estimating the uncertainty of the true response for a regression problem.
Create Prediction Intervals Using Split Conformal Prediction
Create a prediction interval and use conformalized quantile regression to calibrate the prediction interval.

선형 모델 진단

선형 회귀 결과 해석하기
선형 회귀 결과 출력되는 통계량을 표시하고 해석합니다.
선형 회귀
선형 회귀 모델을 피팅하고 결과를 검토합니다.
Linear Regression with Interaction Effects
Construct and analyze a linear regression model with interaction effects and interpret the results.
Summary of Output and Diagnostic Statistics
Evaluate a fitted model by using model properties and object functions.
F-통계량과 t-통계량
선형 회귀에서 F-통계량은 모델 또는 모델 성분의 유의성을 검정하는 분산분석(ANOVA) 방식에 대한 검정 통계량입니다. t-통계량은 회귀 계수에 대한 추론을 할 때 유용합니다.
결정계수(R 제곱)
결정계수(R 제곱)는 선형 회귀 모델에서 독립 변수 X로 설명되는 응답 변수 y의 비례적인 변동량을 나타냅니다.
계수 표준 오차 및 신뢰구간
추정된 계수 분산 및 공분산은 회귀 계수 추정값의 정밀도를 캡처합니다.
Residuals
Residuals are useful for detecting outlying y values and checking the linear regression assumptions with respect to the error term in the regression model.
Durbin-Watson Test
The Durbin-Watson test assesses whether or not there is autocorrelation among the residuals of time series data.
쿡의 거리
쿡의 거리(Cook’s Distance)는 X 값(예측 변수에 대한 관측값)에서 이상값을 식별하는 데 유용합니다.
Hat Matrix and Leverage
The hat matrix provides a measure of leverage.
Delete-1 Statistics
Delete-1 change in covariance (CovRatio) identifies the observations that are influential in the regression fit.

일반화 선형 모델 진단

Generalized Linear Models
Generalized linear models use linear methods to describe a potentially nonlinear relationship between predictor terms and a response variable.

비선형 모델 진단

Nonlinear Regression
Parametric nonlinear models represent the relationship between a continuous response variable and one or more continuous predictor variables.