이 페이지의 내용은 이전 릴리스에 관한 것입니다. 해당 영문 페이지는 최신 릴리스에서 제거되었습니다.

전이 학습 시작하기

이 예제에서는 사전 훈련된 컨벌루션 신경망인 AlexNet이 새로운 이미지 세트를 분류하도록 전이 학습을 사용하여 다시 훈련시키는 방법을 보여줍니다. 이 예제를 통해 MATLAB®에서 심층 학습을 사용하는 것이 얼마나 간단한지 알 수 있습니다.

전이 학습은 심층 학습 응용 분야에서 널리 사용됩니다. 사전 훈련된 네트워크를 새로운 작업을 학습하기 위한 출발점으로 사용할 수 있습니다. 전이 학습으로 네트워크를 미세 조정하는 것은 무작위로 초기화된 가중치를 사용하여 네트워크를 처음부터 훈련시키는 것보다 일반적으로 훨씬 더 빠르고 쉽습니다. 학습된 특징을 보다 적은 개수의 훈련 이미지를 사용하여 새로운 작업으로 빠르게 전이할 수 있습니다.

데이터 불러오기

새 이미지의 압축을 풀고 이미지 데이터저장소로 불러옵니다. 데이터를 훈련 데이터 세트와 검증 데이터 세트로 나눕니다. 이미지의 70%를 훈련용으로 사용하고 30%를 검증용으로 사용합니다.

unzip('MerchData.zip');
imds = imageDatastore('MerchData','IncludeSubfolders',true,'LabelSource','foldernames');
[imdsTrain,imdsValidation] = splitEachLabel(imds,0.7,'randomized');

사전 훈련된 네트워크 불러오기

사전 훈련된 AlexNet 네트워크를 불러옵니다. Deep Learning Toolbox™ Model for AlexNet Network가 설치되어 있지 않으면 이를 다운로드할 수 있는 링크가 제공됩니다. 1백만 개가 넘는 이미지에 대해 훈련된 AlexNet은 이미지를 키보드, 커피 머그잔, 연필, 각종 동물 등 1,000가지 사물 범주로 분류할 수 있습니다. 이 네트워크는 다양한 이미지를 대표하는 다양한 특징을 학습했습니다. 이 네트워크는 이미지를 입력값으로 받아서 이미지에 있는 사물에 대한 레이블과 각 사물 범주의 확률을 출력합니다.

net = alexnet;

마지막 계층 바꾸기

AlexNet이 새로운 이미지를 분류하도록 다시 훈련시키려면 네트워크의 마지막 세 계층을 바꾸십시오. 마지막 완전 연결 계층이 새로운 데이터 세트의 클래스 개수(이 예제에서는 5)와 동일한 크기를 갖도록 설정합니다. 전이된 계층보다 새로운 계층에서 더 빠르게 학습할 수 있도록 하려면 완전 연결 계층의 학습률 인자 값을 높이십시오.

layersTransfer = net.Layers(1:end-3);
numClasses = numel(categories(imdsTrain.Labels));
layers = [
    layersTransfer
    fullyConnectedLayer(numClasses,'WeightLearnRateFactor',10,'BiasLearnRateFactor',10)
    softmaxLayer
    classificationLayer];

네트워크 훈련시키기

미니 배치 크기와 검증 데이터를 비롯한 훈련 옵션을 지정합니다. 전이된 계층의 학습을 늦추려면 InitialLearnRate를 작은 값으로 설정하십시오. 이전 단계에서는 새로운 마지막 계층의 학습 속도를 높이기 위해 완전 연결 계층의 학습률 인자를 증가시켰습니다. 이러한 조합으로 학습률을 설정하면 새로운 계층에서는 학습이 빨라지고 나머지 계층에서는 학습이 느려집니다.

options = trainingOptions('sgdm', ...
    'MiniBatchSize',10, ...
    'MaxEpochs',6, ...
    'InitialLearnRate',1e-4, ...
    'ValidationData',imdsValidation, ...
    'ValidationFrequency',3, ...
    'Verbose',false, ...
    'Plots','training-progress');

훈련 데이터를 사용하여 네트워크를 훈련시킵니다. 기본적으로 trainNetwork는 GPU를 사용할 수 있으면 GPU를 사용합니다(Parallel Computing Toolbox™와 Compute Capability 3.0 이상의 CUDA® 지원 GPU 필요). GPU를 사용할 수 없으면 CPU를 사용합니다. trainingOptions'ExecutionEnvironment' 이름-값 쌍 인수를 사용하여 실행 환경을 지정할 수도 있습니다.

netTransfer = trainNetwork(imdsTrain,layers,options);

검증 이미지 분류하기

미세 조정된 네트워크를 사용하여 검증 이미지를 분류한 다음 분류 정확도를 계산합니다.

YPred = classify(netTransfer,imdsValidation);
accuracy = mean(YPred == imdsValidation.Labels)
accuracy = 1

상세한 전이 학습 예제는 AlexNet을 사용한 전이 학습 항목을 참조하십시오.

참고 문헌

[1] Krizhevsky, Alex, Ilya Sutskever, and Geoffrey E. Hinton. "ImageNet Classification with Deep Convolutional Neural Networks." Advances in neural information processing systems. 2012.

[2] BVLC AlexNet Model. https://github.com/BVLC/caffe/tree/master/models/bvlc_alexnet

참고 항목

| |

관련 항목