이 번역 페이지는 최신 내용을 담고 있지 않습니다. 최신 내용을 영문으로 보려면 여기를 클릭하십시오.

activations

딥러닝 신경망 계층 활성화 계산

구문

act = activations(net,imds,layer)

act = activations(net,ds,layer)

act = activations(net,X,layer)

act = activations(net,X1,...,XN)

act = activations(net,sequences,layer)

act = activations(net,tbl,layer)

act = activations(___,Name,Value)

설명

CPU 또는 GPU에서 딥러닝 신경망 계층 활성화를 계산할 수 있습니다. GPU를 사용하려면 Parallel Computing Toolbox™와 CUDA^® 지원 NVIDIA^® GPU(Compute Capability 3.0 이상)가 필요합니다. 하드웨어 요구 사항은 ExecutionEnvironment 이름-값 쌍 인수를 사용하여 지정하십시오.

act = activations(net,imds,layer)는 훈련된 신경망 net과 영상 데이터저장소 imds의 영상 데이터를 사용하여 특정 계층에 대한 신경망의 활성화 결과를 반환합니다.

act = activations(net,ds,layer)는 데이터저장소 ds의 데이터를 사용하여 신경망 활성화 결과를 반환합니다.

act = activations(net,X,layer)는 숫자형 배열 X의 영상 또는 특징 데이터를 사용하여 신경망 활성화 결과를 반환합니다.

act = activations(net,X1,...,XN)은 다중 입력값 신경망 net에 대해 숫자형 배열 X1, ..., XN의 데이터에 대한 신경망 활성화 결과를 반환합니다. 입력값 Xi는 신경망 입력값 net.InputNames(i)에 대응됩니다.

act = activations(net,sequences,layer)는 순환 신경망(예: LSTM 또는 GRU 신경망)에 대해 신경망 활성화 결과를 반환합니다. 여기서 sequences는 시퀀스 또는 시계열 예측 변수를 포함합니다.

act = activations(net,tbl,layer)는 테이블 tbl의 데이터를 사용하여 신경망 활성화 결과를 반환합니다.

act = activations(___,Name,Value)는 하나 이상의 이름-값 쌍 인수로 지정된 추가 옵션을 사용하여 신경망 활성화 결과를 반환합니다. 예를 들어, 'OutputAs','rows'는 활성화 출력 형식을 'rows'로 지정합니다. 이름-값 쌍 인수는 다른 모든 입력 인수 다음에 지정하십시오.

예제

AlexNet을 사용하여 특징 추출하기

이 예제에서는 사전 훈련된 컨벌루션 신경망에서 학습된 영상 특징을 추출한 다음 추출한 특징을 사용하여 영상 분류기를 훈련시키는 방법을 보여줍니다. 특징 추출은 사전 훈련된 심층 신경망의 강력한 표현 기능을 가장 쉽고 빠르게 사용하는 방법입니다. 예를 들어, 추출된 특징에 대해 fitcecoc(Statistics and Machine Learning Toolbox™)를 사용하여 서포트 벡터 머신(SVM)을 훈련시킬 수 있습니다. 특징 추출은 데이터를 한 번만 통과하면 되기 때문에 신경망 훈련을 가속할 GPU가 없을 때 시도할 수 있는 좋은 시작점이 됩니다.

데이터 불러오기

샘플 영상의 압축을 풀고 영상 데이터저장소로서 불러옵니다. imageDatastore는 폴더 이름을 기준으로 영상에 자동으로 레이블을 지정하고 데이터를 ImageDatastore 객체로 저장합니다. 영상 데이터저장소를 사용하면 메모리에 담을 수 없는 데이터를 포함하여 다량의 영상 데이터를 저장할 수 있습니다. 데이터를 훈련 데이터 70%와 테스트 데이터 30%로 분할합니다.

unzip('MerchData.zip');

imds = imageDatastore('MerchData', ...
    'IncludeSubfolders',true, ...
    'LabelSource','foldernames');

[imdsTrain,imdsTest] = splitEachLabel(imds,0.7,'randomized');

이 매우 작은 데이터 세트에는 이제 55개의 훈련 영상과 20개의 검증 영상이 있습니다. 샘플 영상 몇 개를 표시합니다.

numImagesTrain = numel(imdsTrain.Labels);
idx = randperm(numImagesTrain,16);

for i = 1:16
    I{i} = readimage(imdsTrain,idx(i));
end

figure
imshow(imtile(I))

사전 훈련된 신경망 불러오기

사전 훈련된 AlexNet 신경망을 불러옵니다. Deep Learning Toolbox Model for AlexNet Network 지원 패키지가 설치되어 있지 않으면 이를 다운로드할 수 있는 링크가 제공됩니다. 1백만 개가 넘는 영상에 대해 훈련된 AlexNet은 영상을 1,000가지 사물 범주로 분류할 수 있습니다. 키보드, 마우스, 연필, 각종 동물 등을 예로 들 수 있습니다. 그 결과 이 모델은 다양한 영상을 대표하는 다양한 특징을 학습했습니다.

net = alexnet;

신경망 아키텍처를 표시합니다. 이 신경망은 5개의 컨벌루션 계층과 3개의 완전 연결 계층을 갖습니다.

net.Layers

ans = 
  25x1 Layer array with layers:

     1   'data'     Image Input                   227x227x3 images with 'zerocenter' normalization
     2   'conv1'    Convolution                   96 11x11x3 convolutions with stride [4  4] and padding [0  0  0  0]
     3   'relu1'    ReLU                          ReLU
     4   'norm1'    Cross Channel Normalization   cross channel normalization with 5 channels per element
     5   'pool1'    Max Pooling                   3x3 max pooling with stride [2  2] and padding [0  0  0  0]
     6   'conv2'    Grouped Convolution           2 groups of 128 5x5x48 convolutions with stride [1  1] and padding [2  2  2  2]
     7   'relu2'    ReLU                          ReLU
     8   'norm2'    Cross Channel Normalization   cross channel normalization with 5 channels per element
     9   'pool2'    Max Pooling                   3x3 max pooling with stride [2  2] and padding [0  0  0  0]
    10   'conv3'    Convolution                   384 3x3x256 convolutions with stride [1  1] and padding [1  1  1  1]
    11   'relu3'    ReLU                          ReLU
    12   'conv4'    Grouped Convolution           2 groups of 192 3x3x192 convolutions with stride [1  1] and padding [1  1  1  1]
    13   'relu4'    ReLU                          ReLU
    14   'conv5'    Grouped Convolution           2 groups of 128 3x3x192 convolutions with stride [1  1] and padding [1  1  1  1]
    15   'relu5'    ReLU                          ReLU
    16   'pool5'    Max Pooling                   3x3 max pooling with stride [2  2] and padding [0  0  0  0]
    17   'fc6'      Fully Connected               4096 fully connected layer
    18   'relu6'    ReLU                          ReLU
    19   'drop6'    Dropout                       50% dropout
    20   'fc7'      Fully Connected               4096 fully connected layer
    21   'relu7'    ReLU                          ReLU
    22   'drop7'    Dropout                       50% dropout
    23   'fc8'      Fully Connected               1000 fully connected layer
    24   'prob'     Softmax                       softmax
    25   'output'   Classification Output         crossentropyex with 'tench' and 999 other classes

첫 번째 계층인 영상 입력 계층에 입력되는 영상은 크기가 227×227×3이어야 합니다. 여기서 3은 색 채널의 개수입니다.

inputSize = net.Layers(1).InputSize

inputSize = 1×3

   227   227     3

영상 특징 추출하기

신경망은 입력 영상에 대한 계층 표현을 생성합니다. 보다 심층의 계층에는 앞쪽 계층의 하위 수준 특징을 사용하여 생성한 상위 수준의 특징이 포함됩니다. 훈련 영상과 테스트 영상의 특징 표현을 가져오려면 완전 연결 계층 'fc7'에서 activations를 사용하십시오. 영상의 하위 수준 표현을 가져오려면 신경망의 앞쪽 계층을 사용하십시오.

이 신경망의 입력 영상은 크기가 227×227×3이 되어야 하는데 영상 데이터저장소의 영상은 이와 다른 크기를 갖습니다. 신경망에 입력하기 전에 훈련 영상과 테스트 영상의 크기를 자동으로 조정하려면 증대 영상 데이터저장소를 만들고 원하는 영상 크기를 지정한 다음 이러한 데이터저장소를 activations에 대한 입력 인수로 사용하십시오.

augimdsTrain = augmentedImageDatastore(inputSize(1:2),imdsTrain);
augimdsTest = augmentedImageDatastore(inputSize(1:2),imdsTest);

layer = 'fc7';
featuresTrain = activations(net,augimdsTrain,layer,'OutputAs','rows');
featuresTest = activations(net,augimdsTest,layer,'OutputAs','rows');

훈련 데이터와 테스트 데이터로부터 클래스 레이블을 추출합니다.

YTrain = imdsTrain.Labels;
YTest = imdsTest.Labels;

영상 분류기 피팅하기

훈련 영상으로부터 추출한 특징을 예측 변수로 사용하고 fitcecoc(Statistics and Machine Learning Toolbox)를 사용하여 다중클래스 서포트 벡터 머신(SVM)을 피팅합니다.

mdl = fitcecoc(featuresTrain,YTrain);

테스트 영상 분류하기

훈련된 SVM 모델과 테스트 영상으로부터 추출한 특징을 사용하여 테스트 영상을 분류합니다.

YPred = predict(mdl,featuresTest);

4개의 샘플 테스트 영상을 예측된 레이블과 함께 표시합니다.

idx = [1 5 10 15];
figure
for i = 1:numel(idx)
    subplot(2,2,i)
    I = readimage(imdsTest,idx(i));
    label = YPred(idx(i));
    
    imshow(I)
    title(label)
end

테스트 세트에 대한 분류 정확도를 계산합니다. 정확도는 신경망이 올바르게 예측하는 레이블의 비율입니다.

accuracy = mean(YPred == YTest)

accuracy = 1

이 SVM은 높은 정확도를 갖습니다. 특징 추출을 사용했을 때의 정확도가 충분히 높지 않다면 그 대신 전이 학습을 사용해 보십시오.

입력 인수

net — 훈련된 신경망

SeriesNetwork 객체 | DAGNetwork 객체

훈련된 신경망으로, SeriesNetwork 또는 DAGNetwork 객체로 지정됩니다. 사전 훈련된 신경망을 가져오거나(예: googlenet 함수 사용) trainNetwork를 사용하여 자신만의 고유한 신경망을 훈련시켜 훈련된 신경망을 얻을 수 있습니다.

imds — 영상 데이터저장소

ImageDatastore 객체

영상 데이터저장소로, ImageDatastore 객체로 지정됩니다.

ImageDatastore는 프리페치 작업을 사용한 JPG 또는 PNG 영상 파일의 배치 읽기를 허용합니다. 영상 읽기를 위해 사용자 지정 함수를 사용하는 경우, ImageDatastore는 프리페치를 수행하지 않습니다.

팁

딥러닝을 위해 영상을 효율적으로 전처리하려면(영상 크기 조정 포함) augmentedImageDatastore를 사용하십시오.

imageDatastore의 readFcn 옵션은 일반적으로 상당히 느리므로 전처리나 크기 조정을 위해 사용하지 마십시오.

ds — 데이터저장소

데이터저장소

메모리에 담을 수 없는 큰 데이터 및 전처리를 위한 데이터저장소. 데이터저장소는 데이터를 테이블 또는 셀형 배열로 반환해야 합니다. 데이터저장소 출력값의 형식은 신경망 아키텍처에 따라 달라집니다.

신경망 아키텍처	데이터저장소 출력값	출력값의 예
단일 입력값	테이블 또는 셀형 배열로, 여기서 첫 번째 열은 예측 변수를 지정합니다. 테이블 요소는 스칼라 또는 행 벡터이거나 숫자형 배열을 포함하는 1×1 셀형 배열이어야 합니다. 사용자 지정 데이터저장소는 테이블을 출력해야 합니다.	data = read(ds) data = 4×1 table Predictors __________________ {224×224×3 double} {224×224×3 double} {224×224×3 double} {224×224×3 double}
		data = read(ds) data = 4×1 cell array {224×224×3 double} {224×224×3 double} {224×224×3 double} {224×224×3 double}
다중 입력값	열 개수가 numInputs개 이상인 셀형 배열로, 여기서 numInputs는 신경망 입력값의 개수입니다. 처음 numInputs개의 열은 각 입력값에 대한 예측 변수를 지정합니다. 입력값의 순서는 신경망의 InputNames 속성으로 지정됩니다.	data = read(ds) data = 4×2 cell array {224×224×3 double} {128×128×3 double} {224×224×3 double} {128×128×3 double} {224×224×3 double} {128×128×3 double} {224×224×3 double} {128×128×3 double}

예측 변수의 형식은 데이터의 유형에 따라 달라집니다.

데이터	예측 변수의 형식
2차원 영상	h×w×c 숫자형 배열로, 여기서 h, w, c는 각각 영상의 높이, 너비, 채널 개수입니다.
3차원 영상	h×w×d×c 숫자형 배열로, 여기서 h, w, d, c는 각각 영상의 높이, 너비, 깊이, 채널 개수입니다.
벡터 시퀀스	c×s 행렬로, 여기서 c는 시퀀스의 특징 개수이고, s는 시퀀스 길이입니다.
2차원 영상 시퀀스	h×w×c×s 배열로, 여기서 h, w, c는 각각 영상의 높이, 너비, 채널 개수이고, s는 시퀀스 길이입니다. 미니 배치의 각 시퀀스는 시퀀스 길이가 같아야 합니다.
3차원 영상 시퀀스	h×w×d×c×s 배열로, 여기서 h, w, d, c는 각각 영상의 높이, 너비, 깊이, 채널 개수이고, s는 시퀀스 길이입니다. 미니 배치의 각 시퀀스는 시퀀스 길이가 같아야 합니다.
특징	c×1 열 벡터로, 여기서 c는 특징의 개수입니다.

자세한 내용은 Datastores for Deep Learning 항목을 참조하십시오.

X — 영상 데이터 또는 특징 데이터

숫자형 배열

영상 데이터 또는 특징 데이터로, 숫자형 배열로 지정됩니다. 배열의 크기는 입력값의 유형에 따라 달라집니다.

입력	설명
2차원 영상	h×w×c×N 숫자형 배열로, 여기서 h, w, c는 각각 영상의 높이, 너비, 채널 개수이고 N은 영상 개수입니다.
3차원 영상	h×w×d×c×N 숫자형 배열로, 여기서 h, w, d, c는 각각 영상의 높이, 너비, 깊이, 채널 개수이고 N은 영상 개수입니다.
특징	N×numFeatures 숫자형 배열로, 여기서 N은 관측값의 개수이고, numFeatures는 입력 데이터의 특징의 개수입니다.

배열에 NaN이 포함되어 있는 경우, 이 값이 신경망 끝까지 전파됩니다.

여러 개의 입력값을 갖는 신경망의 경우, 여러 개의 배열 X1, …, XN을 지정할 수 있습니다. 여기서 N은 신경망 입력값의 개수이고, 입력값 Xi는 신경망 입력값 net.InputNames(i)에 대응됩니다.

영상 입력값의 경우, 'OutputAs' 옵션이 'channels'이면 입력 데이터 X의 영상은 신경망의 영상 입력 계층의 입력 크기보다 클 수 있습니다. 그 밖의 다른 출력 형식의 경우에는 X의 영상 크기가 신경망의 영상 입력 계층의 입력 크기와 같아야 합니다.

sequences — 시퀀스 또는 시계열 데이터

숫자형 시퀀스로 구성된 셀형 배열 | 숫자형 배열 | 데이터저장소

시퀀스 또는 시계열 데이터로, 숫자형 배열로 구성된 N×1 셀형 배열, 단일 시퀀스를 나타내는 숫자형 배열 또는 데이터저장소로 지정됩니다. 여기서 N은 관측값 개수입니다.

셀형 배열 또는 숫자형 배열 입력값에 대해, 시퀀스를 포함하는 숫자형 배열의 차원은 데이터 유형에 따라 달라집니다.

입력	설명
벡터 시퀀스	c×s 행렬. 여기서 c는 시퀀스의 특징 개수이고 s는 시퀀스 길이입니다.
2차원 영상 시퀀스	h×w×c×s 배열. 여기서 h, w, c는 영상의 높이, 너비, 채널 개수이고 s는 시퀀스 길이입니다.
3차원 영상 시퀀스	h×w×d×c×s 배열. 여기서 h, w, d, c는 3차원 영상의 높이, 너비, 깊이, 채널 개수이고 s는 시퀀스 길이입니다.

데이터저장소 입력값의 경우, 데이터저장소는 데이터를 시퀀스로 구성된 셀형 배열 또는 첫 번째 열이 시퀀스를 포함하는 테이블로 반환해야 합니다. 시퀀스 데이터의 차원은 위 표와 같아야 합니다.

tbl — 영상 데이터 또는 특징 데이터로 구성된 테이블

table

영상 데이터 또는 특징 데이터로 구성된 테이블. 테이블의 각 행은 관측값 하나에 대응됩니다.

테이블 열에서 예측 변수의 배치되는 방식은 입력 데이터의 유형에 따라 달라집니다.

입력	예측 변수
영상 데이터	영상에 대한 상대 또는 절대 파일 경로로, 단일 열에 있는 문자형 벡터로 지정됩니다. 영상으로, 3차원 숫자형 배열로 지정됩니다. 예측 변수는 단일 열에 지정하십시오.
특징 데이터	숫자형 스칼라. 예측 변수를 테이블의 numFeatures 열에 지정하십시오. 여기서 numFeatures는 입력 데이터의 특징의 개수입니다.

이 인수는 입력값이 하나만 있는 신경망을 지원합니다.

데이터형: table

layer — 활성화 결과를 추출할 계층

숫자형 인덱스 | 문자형 벡터

활성화 결과를 추출할 계층으로, 숫자형 인덱스 또는 문자형 벡터로 지정됩니다.

SeriesNetwork 객체의 활성화 결과를 구하려면 layer를 숫자형 인덱스로 지정하거나 계층 이름에 해당하는 문자형 벡터로 지정하십시오.

DAGNetwork 객체의 활성화 결과를 구하려면 layer를 계층 이름에 해당하는 문자형 벡터로 지정하십시오. 계층에 여러 개의 출력값이 있다면 계층 이름을 지정하고, 문자 “/”를 입력하고, 이어서 계층 출력값의 이름을 지정하여 계층과 출력값을 지정합니다. 즉, layer를 'layerName/outputName'과 같은 형식으로 지정합니다.

예: 3

예: 'conv1'

예: 'mpool/out'

이름-값 쌍의 인수

선택적으로 Name,Value 인수가 쉼표로 구분되어 지정됩니다. 여기서 Name은 인수 이름이고 Value는 대응값입니다. Name은 따옴표 안에 표시해야 합니다. Name1,Value1,...,NameN,ValueN과 같이 여러 개의 이름-값 쌍의 인수를 어떤 순서로든 지정할 수 있습니다.

예: activations(net,X,layer,'OutputAs','rows')

'OutputAs' — 활성화 결과 출력 형식

'channels' (디폴트 값) | 'rows' | 'columns'

활성화 결과 출력 형식으로, 'OutputAs'와 함께 'channels', 'rows' 또는 'columns'가 쉼표로 구분되어 지정됩니다. 여러 출력 형식에 대한 설명은 act를 참조하십시오.

영상 입력값의 경우, 'OutputAs' 옵션이 'channels'이면 입력 데이터 X의 영상은 신경망의 영상 입력 계층의 입력 크기보다 클 수 있습니다. 그 밖의 다른 출력 형식의 경우에는 X의 영상 크기가 신경망의 영상 입력 계층의 입력 크기와 같아야 합니다.

예: 'OutputAs','rows'

'MiniBatchSize' — 미니 배치의 크기

128 (디폴트 값) | 양의 정수

예측에 사용할 미니 배치의 크기로, 양의 정수로 지정됩니다. 미니 배치가 클수록 메모리가 더 많이 필요하지만 예측 속도는 빨라질 수 있습니다.

예: 'MiniBatchSize',256

'SequenceLength' — 입력 시퀀스를 채우거나 자르거나 분할하는 옵션

'longest' (디폴트 값) | 'shortest' | 양의 정수

입력 시퀀스를 채우거나 자르거나 분할하는 옵션으로, 다음 중 하나로 지정됩니다.

• 'longest' — 각 미니 배치의 시퀀스가 가장 긴 시퀀스와 길이가 같아지도록 채웁니다. 이 옵션은 채우기로 인해 신경망에 잡음이 포함되더라도 데이터를 버리지 않습니다.

• 'shortest' — 각 미니 배치의 시퀀스가 가장 짧은 시퀀스와 길이가 같아지도록 자릅니다. 이 옵션은 데이터를 버리게 되더라도 채우기를 추가하지 않습니다.

• 양의 정수 — 각 미니 배치에 대해, 미니 배치의 가장 긴 시퀀스 길이보다 큰 지정된 길이의 가장 가까운 배수로 시퀀스를 채운 다음, 지정된 길이를 갖는 더 작은 크기의 시퀀스로 분할합니다. 분할이 이루어지면 소프트웨어가 미니 배치를 추가로 만듭니다. 전체 시퀀스가 메모리에 맞지 않으면 이 옵션을 사용하십시오. 또는 'MiniBatchSize' 옵션을 더 낮은 값으로 설정하여 미니 배치당 시퀀스 개수를 줄여 보십시오.

입력 시퀀스 채우기, 자르기, 분할의 효과에 대한 자세한 정보는 시퀀스 채우기, 자르기 및 분할 항목을 참조하십시오.

예: 'SequenceLength','shortest'

'SequencePaddingValue' — 입력 시퀀스에 채울 값

0 (디폴트 값) | 스칼라

입력 시퀀스에 채울 값으로, 스칼라로 지정됩니다. 이 옵션은 SequenceLength가 'longest' 또는 양의 정수인 경우에만 유효합니다. 시퀀스를 NaN으로 채우면 신경망 전체로 오류가 전파될 수 있으므로 유의하십시오.

예: 'SequencePaddingValue',-1

'SequencePaddingDirection' — 채우기 또는 자르기 방향

'right' (디폴트 값) | 'left'

채우기 또는 자르기 방향으로, 다음 중 하나로 지정됩니다.

• 'right' — 시퀀스들을 오른쪽에서 채우거나 자릅니다. 시퀀스들은 동일한 시간 스텝에서 시작하며 소프트웨어가 시퀀스들의 끝 부분에서 자르기나 채우기를 수행합니다.

• 'left' — 시퀀스들을 왼쪽에서 채우거나 자릅니다. 시퀀스들이 동일한 시간 스텝에서 끝나도록 소프트웨어가 시퀀스들의 시작 부분에서 자르기나 채우기를 수행합니다.

LSTM 계층은 시퀀스 데이터를 한 번에 하나의 시간 스텝씩 처리하기 때문에 계층의 OutputMode 속성이 'last'인 경우 마지막 시간 스텝에서의 채우기가 계층 출력에 부정적인 영향을 줄 수 있습니다. 시퀀스 데이터를 왼쪽에서 채우거나 자르려면 'SequencePaddingDirection' 옵션을 'left'로 설정하십시오.

sequence-to-sequence 신경망의 경우(각 LSTM 계층의 OutputMode 속성이 'sequence'인 경우), 첫 시간 스텝들에서의 채우기가 앞쪽에 있는 시간 스텝들의 예측에 부정적인 영향을 줄 수 있습니다. 시퀀스 데이터를 오른쪽에서 채우거나 자르려면 'SequencePaddingDirection' 옵션을 'right'로 설정하십시오.

입력 시퀀스 채우기, 자르기, 분할의 효과에 대한 자세한 정보는 시퀀스 채우기, 자르기 및 분할 항목을 참조하십시오.

'Acceleration' — 성능 최적화

'auto' (디폴트 값) | 'mex' | 'none'

성능 최적화로, 'Acceleration'과 함께 다음 중 하나가 쉼표로 구분되어 지정됩니다.

• 'auto' — 입력 신경망 및 하드웨어 리소스에 적합한 여러 최적화를 자동으로 적용합니다.

• 'mex' — MEX 함수를 컴파일하고 실행합니다. 이 옵션은 GPU를 사용하는 경우에만 사용할 수 있습니다. GPU를 사용하려면 Parallel Computing Toolbox와 CUDA 지원 NVIDIA GPU(Compute Capability 3.0 이상)가 필요합니다. Parallel Computing Toolbox 또는 적당한 GPU를 사용할 수 없는 경우, 오류가 반환됩니다.

• 'none' — 모든 가속을 비활성화합니다.

디폴트 옵션은 'auto'입니다. 'auto'가 지정된 경우 MATLAB^®은 호환되는 여러 최적화를 적용합니다. 'auto' 옵션을 사용할 경우 MATLAB은 절대로 MEX 함수를 생성하지 않습니다.

'Acceleration' 옵션 'auto'와 'mex'를 사용하면 성능이 향상될 수 있는 대신 초기 실행 시간이 늘어납니다. 호환되는 파라미터를 사용한 후속 호출은 더 빨리 실행됩니다. 성능 최적화는 새 입력 데이터를 사용하여 함수를 여러 번 호출해야 하는 경우에 사용하십시오.

'mex' 옵션은 신경망과 함수 호출에서 사용된 파라미터에 따라 MEX 함수를 생성하고 실행합니다. 단일 신경망에 한 번에 여러 개의 MEX 함수가 연결되어 있을 수 있습니다. 신경망 변수를 지우면 해당 신경망에 연결된 모든 MEX 함수도 지워집니다.

'mex' 옵션은 GPU를 사용하는 경우에만 사용할 수 있습니다. C/C++ 컴파일러가 설치되어 있어야 하며 GPU Coder™ Interface for Deep Learning Libraries 지원 패키지가 필요합니다. MATLAB의 애드온 탐색기를 사용하여 지원 패키지를 설치하십시오. 설정 지침은 MEX Setup (GPU Coder) 항목을 참조하십시오. GPU Coder는 필요하지 않습니다.

'mex' 옵션은 모든 계층을 지원하지는 않습니다. 지원되는 계층 목록은 Supported Layers (GPU Coder) 항목을 참조하십시오. sequenceInputLayer를 포함하는 순환 신경망(RNN)은 지원되지 않습니다.

'mex' 옵션은 입력 계층이 여러 개이거나 출력 계층이 여러 개인 신경망을 지원하지 않습니다.

'mex' 옵션을 사용할 때는 MATLAB Compiler™를 사용하여 신경망을 배포할 수 없습니다.

예: 'Acceleration','mex'

'ExecutionEnvironment' — 하드웨어 리소스

'auto' (디폴트 값) | 'gpu' | 'cpu'

하드웨어 리소스로, 'ExecutionEnvironment'와 함께 다음 중 하나가 쉼표로 구분되어 지정됩니다.

• 'auto' — GPU를 사용할 수 있으면 GPU를 사용하고 그렇지 않으면 CPU를 사용합니다.

• 'gpu' — GPU를 사용합니다. GPU를 사용하려면 Parallel Computing Toolbox와 CUDA 지원 NVIDIA GPU(Compute Capability 3.0 이상)가 필요합니다. Parallel Computing Toolbox 또는 적당한 GPU를 사용할 수 없는 경우, 오류가 반환됩니다.

• 'cpu' — CPU를 사용합니다.

예: 'ExecutionEnvironment','cpu'

출력 인수

act — 신경망 계층의 활성화 결과

숫자형 배열 | 셀형 배열

신경망 계층의 활성화 결과로, 숫자형 배열 또는 숫자형 배열로 구성된 셀형 배열로 반환됩니다. act의 형식은 입력 데이터의 유형, 계층 출력값의 유형 및 'OutputAs' 옵션에 따라 달라집니다.

영상 출력값 또는 접힌 시퀀스 출력값

계층이 영상 또는 접힌 시퀀스 데이터를 출력하는 경우 act는 숫자형 배열입니다.

'OutputAs'	act
'channels'	2차원 영상 출력값에 대해, act는 h×w×c×n 배열입니다. 여기서 h, w, c는 선택한 계층 출력값의 높이, 너비, 채널 개수이고, n은 영상 개수입니다. 이 경우 act(:,:,:,i)는 i번째 영상에 대한 활성화 결과를 포함합니다. 3차원 영상 출력값에 대해, act는 h×w×d×c×n 배열입니다. 여기서 h, w, d, c는 각각 선택한 계층 출력값의 높이, 너비, 깊이, 채널 개수이고, n은 영상 개수입니다. 이 경우 act(:,:,:,:,i)는 i번째 영상에 대한 활성화 결과를 포함합니다. 접힌 2차원 영상 시퀀스 출력값에 대해, act는 h×w×c×(n*s) 배열입니다. 여기서 h, w, c는 각각 선택한 계층 출력값의 높이, 너비, 채널 개수이고, n은 시퀀스 개수이고, s는 시퀀스 길이입니다. 이 경우 act(:,:,:,(t-1)*n+k)는 k번째 시퀀스의 시간 스텝 t에 대한 활성화 결과를 포함합니다. 접힌 3차원 영상 시퀀스 출력값에 대해, act는 h×w×d×c×(n*s) 배열입니다. 여기서 h, w, d, c는 각각 선택한 계층 출력값의 높이, 너비, 깊이, 채널 개수이고, n은 시퀀스 개수이고, s는 시퀀스 길이입니다. 이 경우 act(:,:,:,:,(t-1)*n+k)는 k번째 시퀀스의 시간 스텝 t에 대한 활성화 결과를 포함합니다.
'rows'	2차원 및 3차원 영상 출력값에 대해, act는 n×m 행렬입니다. 여기서 n은 영상의 개수이고, m은 계층의 출력값 요소 개수입니다. 이 경우 act(i,:)는 i번째 영상에 대한 활성화 결과를 포함합니다. 접힌 2차원 및 3차원 영상 시퀀스 출력값에 대해, act는 (n*s)×m 행렬입니다. 여기서 n은 시퀀스 개수이고, s는 시퀀스 길이이고, m은 계층의 출력값 요소 개수입니다. 이 경우 act((t-1)*n+k,:)는 k번째 시퀀스의 시간 스텝 t에 대한 활성화 결과를 포함합니다.
'columns'	2차원 및 3차원 영상 출력값에 대해, act는 m×n 행렬입니다. 여기서 m은 선택한 계층의 출력값 요소 개수이고, n은 영상의 개수입니다. 이 경우 act(:,i)는 i번째 영상에 대한 활성화 결과를 포함합니다. 접힌 2차원 및 3차원 영상 시퀀스 출력값에 대해, act는 m×(n*s) 행렬입니다. 여기서 m은 선택한 계층의 출력값 요소 개수이고, n은 시퀀스 개수이고, s는 시퀀스 길이입니다. 이 경우 act(:,(t-1)*n+k)는 k번째 시퀀스의 시간 스텝 t에 대한 활성화 결과를 포함합니다.

시퀀스 출력값

layer에 시퀀스 출력값이 있는 경우(예: 출력 모드가 'sequence'인 LSTM 계층), act는 셀형 배열입니다. 이 경우 'OutputAs' 옵션은 'channels'여야 합니다.

'OutputAs'	act
'channels'	벡터 시퀀스 출력에 대해, act는 c×s 행렬로 구성된 n×1 셀형 배열입니다. 여기서 n은 시퀀스 개수이고, c는 시퀀스에 있는 특징의 개수이고, s는 시퀀스 길이입니다. 2차원 영상 시퀀스 출력에 대해, act는 h×w×c×s 행렬로 구성된 n×1 셀형 배열입니다. 여기서 n은 시퀀스 개수이고, h, w, c는 각각 영상의 높이, 너비, 채널 개수이고, s는 시퀀스 길이입니다. 3차원 영상 시퀀스 출력에 대해, act는 h×w×c×d×s 행렬로 구성된 n×1 셀형 배열입니다. 여기서 n은 시퀀스 개수이고, h, w, d, c는 각각 영상의 높이, 너비, 깊이, 채널 개수이고, s는 시퀀스 길이입니다. 위의 경우 act{i}는 i번째 시퀀스에 대한 활성화 결과를 포함합니다.

단일 시간 스텝 출력값

layer가 시퀀스의 단일 시간 스텝을 출력하는 경우(예: 출력 모드가 'last'인 LSTM 계층), act는 숫자형 배열입니다.

'OutputAs'	act
'channels'	벡터 데이터를 포함하는 단일 시간 스텝에 대해, act는 c×n 행렬입니다. 여기서 n은 시퀀스 개수이고, c는 시퀀스에 있는 특징의 개수입니다. 2차원 영상 데이터를 포함하는 단일 시간 스텝에 대해, act는 h×w×c×n 배열입니다. 여기서 n은 시퀀스 개수이고, h, w, c는 각각 영상의 높이, 너비, 채널 개수입니다. 3차원 영상 데이터를 포함하는 단일 시간 스텝에 대해, act는 h×w×c×d×n 배열입니다. 여기서 n은 시퀀스 개수이고, h, w, d, c는 각각 영상의 높이, 너비, 깊이, 채널 개수입니다.
'rows'	n×m 행렬로, 여기서 n은 관측값의 개수이고 m은 선택한 계층의 출력값 요소 개수입니다. 이 경우 act(i,:)는 i번째 시퀀스에 대한 활성화 결과를 포함합니다.
'columns'	m×n 행렬로, 여기서 m은 선택한 계층의 출력값 요소 개수이고 n은 관측값의 개수입니다. 이 경우 act(:,i)는 i번째 영상에 대한 활성화 결과를 포함합니다.

알고리즘

Deep Learning Toolbox™에 포함된 딥러닝 훈련, 예측 및 검증을 위한 모든 함수는 단정밀도 부동소수점 연산방식을 사용하여 계산을 수행합니다. 딥러닝을 위한 함수에는 trainNetwork, predict, classify, activations가 있습니다. CPU와 GPU를 모두 사용하여 신경망을 훈련시키는 경우, 단정밀도 연산방식이 사용됩니다.

참고 문헌

[1] M. Kudo, J. Toyama, and M. Shimbo. "Multidimensional Curve Classification Using Passing-Through Regions." Pattern Recognition Letters. Vol. 20, No. 11–13, pages 1103–1111.

[2] UCI Machine Learning Repository: Japanese Vowels Dataset. https://archive.ics.uci.edu/ml/datasets/Japanese+Vowels

확장 기능

C/C++ 코드 생성

MATLAB® Coder™를 사용하여 C 코드나 C++ 코드를 생성할 수 있습니다.

사용법 관련 참고 및 제한 사항:

• 입력값 X는 가변 크기를 가질 수 없습니다. 크기는 코드 생성 시점에 고정되어야 합니다.

• layer 인수는 상수여야 합니다.

• 'OutputAs' 이름-값 쌍 인수만 지원됩니다. 값은 'channels'여야 합니다.

딥러닝 신경망을 위해 코드를 생성하는 방법에 대한 자세한 내용은 Workflow for Deep Learning Code Generation with MATLAB Coder (MATLAB Coder) 항목을 참조하십시오.

GPU 코드 생성

GPU Coder™를 사용하여 NVIDIA® GPU용 CUDA® 코드를 생성할 수 있습니다.

사용법 관련 참고 및 제한 사항:

• GPU 코드 생성 시에 다음과 같은 구문이 지원됩니다.

  • act = activations(net,X,layer)

  • act = activations(net,sequences,layer)

  • act = activations(__,Name,Value)

• 입력값 X는 가변 크기를 가질 수 없습니다. 입력값의 크기는 코드 생성 시점에 고정되어야 합니다.

• cuDNN 라이브러리는 벡터와 2차원 영상 시퀀스를 지원합니다. TensorRT 라이브러리는 벡터 입력 시퀀스만 지원합니다. GPU용 ARM^® Compute Library는 순환 신경망을 지원하지 않습니다.

• 벡터 시퀀스 입력값의 경우, 코드 생성 시에 특징의 개수가 상수여야 합니다. 시퀀스 길이는 가변 크기일 수 있습니다.

• 영상 시퀀스 입력값의 경우, 코드 생성 시에 높이, 너비, 채널 개수가 상수여야 합니다.

• 코드 생성 시에 layer 인수는 상수여야 합니다.

• 코드 생성 시에는 'OutputAs', 'MiniBatchSize', 'SequenceLength', 'SequencePaddingDirection' 및 'SequencePaddingValue' 이름-값 쌍 인수만 지원됩니다. 모든 이름-값 쌍은 컴파일타임 상수여야 합니다.

• 활성화 결과 출력 형식은 'channels'여야 합니다.

• 코드 생성 시에는 'SequenceLength' 이름-값 쌍의 'longest' 및 'shortest' 옵션만 지원됩니다.

• activations 함수에 대한 GPU 코드 생성에서는 반정밀도 부동소수점 데이터형으로 정의된 입력값이 지원됩니다. 자세한 내용은 half (GPU Coder)를 참조하십시오.

참고 항목

classify | deepDreamImage | predict | trainNetwork

도움말 항목

• Transfer Learning Using Pretrained Network
• 컨벌루션 신경망의 활성화 시각화하기
• Visualize Activations of LSTM Network
• MATLAB의 딥러닝

R2016a에 개발됨

×

예제 열기

이 예제의 수정된 버전이 있습니다. 사용자가 편집한 내용을 반영하여 이 예제를 여시겠습니까?

아니요, 수정된 버전을 덮어씁니다. 예