이 페이지의 최신 내용은 아직 번역되지 않았습니다. 최신 내용은 영문으로 볼 수 있습니다.

AlexNet을 사용한 전이 학습

이 예제에서는 사전 훈련된 AlexNet 컨벌루션 신경망이 새로운 이미지 모음에 대해 분류를 수행하도록 미세 조정하는 방법을 보여줍니다.

1백만 개가 넘는 이미지에 대해 훈련된 AlexNet은 이미지를 키보드, 커피 머그잔, 연필, 각종 동물 등 1,000가지 사물 범주로 분류할 수 있습니다. 이 네트워크는 다양한 이미지를 대표하는 다양한 특징을 학습했습니다. 이 네트워크는 이미지를 입력값으로 받아서 이미지에 있는 사물에 대한 레이블과 각 사물 범주의 확률을 출력합니다.

전이 학습은 심층 학습 응용 분야에서 널리 사용됩니다. 사전 훈련된 네트워크를 새로운 작업을 학습하기 위한 출발점으로 사용할 수 있습니다. 전이 학습으로 네트워크를 미세 조정하는 것은 무작위로 초기화된 가중치를 사용하여 네트워크를 처음부터 훈련시키는 것보다 일반적으로 훨씬 더 빠르고 쉽습니다. 학습된 특징을 보다 적은 개수의 훈련 이미지를 사용하여 새로운 작업으로 빠르게 전이할 수 있습니다.

데이터 불러오기

새 이미지의 압축을 풀고 이미지 데이터저장소로 불러옵니다. imageDatastore는 폴더 이름을 기준으로 이미지에 자동으로 레이블을 지정하고 데이터를 ImageDatastore 객체로 저장합니다. 이미지 데이터저장소를 사용하면 메모리에 담을 수 없는 데이터를 포함하여 다량의 이미지 데이터를 저장할 수 있고 컨벌루션 신경망 훈련 중에 이미지 배치를 효율적으로 읽어 들일 수 있습니다.

unzip('MerchData.zip');
imds = imageDatastore('MerchData', ...
    'IncludeSubfolders',true, ...
    'LabelSource','foldernames');

데이터를 훈련 데이터 세트와 검증 데이터 세트로 나눕니다. 이미지의 70%를 훈련용으로 사용하고 30%를 검증용으로 사용합니다. splitEachLabelimages 데이터저장소를 2개의 새로운 데이터저장소로 분할합니다.

[imdsTrain,imdsValidation] = splitEachLabel(imds,0.7,'randomized');

이 매우 작은 데이터 세트에는 이제 55개의 훈련 이미지와 20개의 검증 이미지가 포함됩니다. 샘플 이미지 몇 개를 표시합니다.

numTrainImages = numel(imdsTrain.Labels);
idx = randperm(numTrainImages,16);
figure
for i = 1:16
    subplot(4,4,i)
    I = readimage(imdsTrain,idx(i));
    imshow(I)
end

사전 훈련된 네트워크 불러오기

사전 훈련된 AlexNet 신경망을 불러옵니다. Deep Learning Toolbox™ Model for AlexNet Network가 설치되어 있지 않으면 이를 다운로드할 수 있는 링크가 제공됩니다. 1백만 개가 넘는 이미지에 대해 훈련된 AlexNet은 이미지를 키보드, 마우스, 연필, 각종 동물 등 1,000가지 사물 범주로 분류할 수 있습니다. 그 결과 이 모델은 다양한 이미지를 대표하는 다양한 특징을 학습했습니다.

net = alexnet;

analyzeNetwork를 사용하여 네트워크 아키텍처에 대한 대화형 방식 시각화와 네트워크 계층에 대한 상세한 정보를 표시합니다.

analyzeNetwork(net)

첫 번째 계층인 이미지 입력 계층에 입력되는 이미지는 크기가 227x227x3이어야 합니다. 여기서 3은 색 채널의 개수입니다.

inputSize = net.Layers(1).InputSize
inputSize = 1×3

   227   227     3

마지막 계층 바꾸기

사전 훈련된 네트워크 net의 마지막 세 계층은 1,000개의 클래스에 대해 구성되어 있습니다. 이 세 계층을 새로운 분류 문제에 맞게 미세 조정해야 합니다. 사전 훈련된 네트워크에서 마지막 3개를 제외한 모든 계층을 추출합니다.

layersTransfer = net.Layers(1:end-3);

마지막 세 계층을 완전 연결 계층, 소프트맥스 계층, 분류 출력 계층으로 바꾸어 계층을 새로운 분류 작업으로 전이합니다. 새로운 데이터에 따라 새로운 완전 연결 계층의 옵션을 지정합니다. 완전 연결 계층이 새로운 데이터의 클래스 개수와 동일한 크기를 갖도록 설정합니다. 전이된 계층보다 새로운 계층에서 학습이 빠르게 이루어지도록 하려면 완전 연결 계층의 WeightLearnRateFactor 값과 BiasLearnRateFactor 값을 높이십시오.

numClasses = numel(categories(imdsTrain.Labels))
numClasses = 5
layers = [
    layersTransfer
    fullyConnectedLayer(numClasses,'WeightLearnRateFactor',20,'BiasLearnRateFactor',20)
    softmaxLayer
    classificationLayer];

네트워크 훈련시키기

이 네트워크의 입력 이미지는 크기가 227x227x3이 되어야 하는데 이미지 데이터저장소의 이미지는 이와 다른 크기를 갖습니다. 증대 이미지 데이터저장소를 사용하여 훈련 이미지의 크기를 자동으로 조정합니다. 훈련 이미지에 대해 추가로 수행할 증대 연산을 지정합니다. 즉, 세로 축을 따라 훈련 이미지를 무작위로 뒤집고, 최대 30개의 픽셀을 가로와 세로 방향으로 무작위로 평행 이동합니다. 데이터 증대는 네트워크가 과적합되는 것을 방지하고 훈련 이미지의 정확한 세부 정보가 기억되지 않도록 하는 데 도움이 됩니다.

pixelRange = [-30 30];
imageAugmenter = imageDataAugmenter( ...
    'RandXReflection',true, ...
    'RandXTranslation',pixelRange, ...
    'RandYTranslation',pixelRange);
augimdsTrain = augmentedImageDatastore(inputSize(1:2),imdsTrain, ...
    'DataAugmentation',imageAugmenter);

추가적인 데이터 증대를 수행하지 않고 검증 이미지의 크기를 자동으로 조정하려면 증대 이미지 데이터저장소를 추가적인 전처리 연산 지정 없이 사용하십시오.

augimdsValidation = augmentedImageDatastore(inputSize(1:2),imdsValidation);

훈련 옵션을 지정합니다. 전이 학습을 위해, 사전 훈련된 네트워크의 앞쪽 계층의 특징(전이된 계층 가중치)을 유지합니다. 전이된 계층의 학습을 늦추려면 초기 학습률을 작은 값으로 설정하십시오. 이전 단계에서는 새로운 마지막 계층의 학습 속도를 높이기 위해 완전 연결 계층의 학습률 인자를 증가시켰습니다. 이러한 조합으로 학습률을 설정하면 새로운 계층에서는 학습이 빨라지고 나머지 계층에서는 학습이 느려집니다. 전이 학습을 수행할 때는 많은 횟수의 Epoch에 대해 훈련을 진행하지 않아도 됩니다. Epoch 1회는 전체 훈련 데이터 세트에 대한 하나의 완전한 훈련 주기를 의미합니다. 미니 배치 크기와 검증 데이터를 지정합니다. 훈련 중에 ValidationFrequency번의 반복마다 네트워크가 검증됩니다.

options = trainingOptions('sgdm', ...
    'MiniBatchSize',10, ...
    'MaxEpochs',6, ...
    'InitialLearnRate',1e-4, ...
    'Shuffle','every-epoch', ...
    'ValidationData',augimdsValidation, ...
    'ValidationFrequency',3, ...
    'Verbose',false, ...
    'Plots','training-progress');

전이된 계층과 새로운 계층으로 구성된 네트워크를 훈련시킵니다. 기본적으로 trainNetwork는 GPU를 사용할 수 있으면 GPU를 사용합니다(Parallel Computing Toolbox™와 Compute Capability 3.0 이상의 CUDA® 지원 GPU 필요). GPU를 사용할 수 없으면 CPU를 사용합니다. trainingOptions'ExecutionEnvironment' 이름-값 쌍 인수를 사용하여 실행 환경을 지정할 수도 있습니다.

netTransfer = trainNetwork(augimdsTrain,layers,options);

검증 이미지 분류하기

미세 조정한 네트워크를 사용하여 검증 이미지를 분류합니다.

[YPred,scores] = classify(netTransfer,augimdsValidation);

4개의 샘플 검증 이미지를 예측된 레이블과 함께 표시합니다.

idx = randperm(numel(imdsValidation.Files),4);
figure
for i = 1:4
    subplot(2,2,i)
    I = readimage(imdsValidation,idx(i));
    imshow(I)
    label = YPred(idx(i));
    title(string(label));
end

검증 세트에 대한 분류 정확도를 계산합니다. 정확도는 네트워크가 올바르게 예측하는 레이블의 비율입니다.

YValidation = imdsValidation.Labels;
accuracy = mean(YPred == YValidation)
accuracy = 1

분류 정확도를 높이기 위한 팁을 보려면 Deep Learning Tips and Tricks 항목을 참조하십시오.

참고 문헌

[1] Krizhevsky, Alex, Ilya Sutskever, and Geoffrey E. Hinton. "ImageNet Classification with Deep Convolutional Neural Networks." Advances in neural information processing systems. 2012.

[2] BVLC AlexNet Model. https://github.com/BVLC/caffe/tree/master/models/bvlc_alexnet

참고 항목

| | |

관련 항목