이 페이지의 최신 내용은 아직 번역되지 않았습니다. 최신 내용은 영문으로 볼 수 있습니다.

dropoutLayer

드롭아웃 계층

설명

드롭아웃 계층은 주어진 확률에 따라 입력 요소를 무작위로 0으로 설정합니다.

생성

구문

layer = dropoutLayer

layer = dropoutLayer(probability)

layer = dropoutLayer(___,'Name',Name)

설명

layer = dropoutLayer는 드롭아웃 계층을 만듭니다.

layer = dropoutLayer(probability)는 드롭아웃 계층을 만들고 Probability 속성을 설정합니다.

layer = dropoutLayer(___,'Name',Name)은 위에 열거된 구문에 나와 있는 인수와 함께 이름-값 쌍을 사용하여 선택적 속성인 Name을 설정합니다. 예를 들어, dropoutLayer(0.4,'Name','drop1')은 드롭아웃 확률이 0.4이고 이름이 'drop1'인 드롭아웃 계층을 만듭니다. 속성 이름을 작은따옴표로 묶습니다.

속성

드롭아웃

Probability — 입력 요소를 배제(드롭아웃)할 확률

0.5 (디폴트 값) | 범위 0~1에 속하는 숫자형 스칼라

입력 요소를 배제할 확률로, 범위 0~1에 속하는 숫자형 스칼라로 지정됩니다.

이 계층은 훈련 시점에 드롭아웃 마스크 rand(size(X))<Probability로 주어진 확률에 따라(X는 계층 입력) 입력 요소를 무작위로 0으로 설정한 후에 나머지 요소를 1/(1-Probability)만큼 스케일링합니다. 이 연산은 각 반복 사이에 기본 네트워크 아키텍처를 실질적으로 변경시키고 네트워크가 과적합되지 않도록 하는 데 도움이 됩니다[1], [2]. 수치가 높을수록 훈련 중에 배제되는 요소가 많아집니다. 예측 시점에는 계층의 출력값이 입력값과 동일합니다.

이미지 입력의 경우, 계층은 각 이미지의 각 채널에 대해 서로 다른 마스크를 적용합니다. 시퀀스 입력의 경우, 계층은 각 시퀀스의 각 시간 스텝에 대해 서로 다른 드롭아웃 마스크를 적용합니다.

예: 0.4

계층

Name — 계층 이름

'' (디폴트 값) | 문자형 벡터 | string형 스칼라

계층 이름으로, 문자형 벡터 또는 string형 스칼라로 지정됩니다. 계층 그래프에 계층을 포함하려면 비어 있지 않은 고유한 계층 이름을 지정해야 합니다. 이 계층을 사용하여 시리즈 네트워크를 훈련시킬 때 Name을 ''로 설정하면, 소프트웨어가 훈련 시점에 해당 계층에 자동으로 이름을 할당합니다.

데이터형: char | string

NumInputs — 입력값의 개수

1 (디폴트 값)

계층의 입력값 개수. 이 계층은 단일 입력값만 받습니다.

데이터형: double

InputNames — 입력값 이름

{'in'} (디폴트 값)

계층의 입력값 이름. 이 계층은 단일 입력값만 받습니다.

데이터형: cell

NumOutputs — 출력값 개수

1 (디폴트 값)

계층의 출력값 개수. 이 계층은 단일 출력값만 가집니다.

데이터형: double

OutputNames — 출력값 이름

{'out'} (디폴트 값)

계층의 출력값 이름. 이 계층은 단일 출력값만 가집니다.

데이터형: cell

예제

드롭아웃 계층 만들기

이름이 'drop1'인 드롭아웃 계층을 만듭니다.

layer = dropoutLayer('Name','drop1')

layer = 
  DropoutLayer with properties:

           Name: 'drop1'

   Hyperparameters
    Probability: 0.5000

Layer 배열에 드롭아웃 계층을 포함시킵니다.

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    reluLayer
    dropoutLayer
    fullyConnectedLayer(10)
    softmaxLayer
    classificationLayer]

layers = 
  7x1 Layer array with layers:

     1   ''   Image Input             28x28x1 images with 'zerocenter' normalization
     2   ''   Convolution             20 5x5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   ReLU                    ReLU
     4   ''   Dropout                 50% dropout
     5   ''   Fully Connected         10 fully connected layer
     6   ''   Softmax                 softmax
     7   ''   Classification Output   crossentropyex

세부 정보

드롭아웃 계층

드롭아웃 계층은 주어진 확률에 따라 입력 요소를 무작위로 0으로 설정합니다.

이 계층은 훈련 시점에 드롭아웃 마스크 rand(size(X))<Probability로 주어진 확률에 따라(X는 계층 입력) 입력 요소를 무작위로 0으로 설정한 후에 나머지 요소를 1/(1-Probability)만큼 스케일링합니다. 이 연산은 각 반복 사이에 기본 네트워크 아키텍처를 실질적으로 변경시키고 네트워크가 과적합되지 않도록 하는 데 도움이 됩니다[1], [2]. 수치가 높을수록 훈련 중에 배제되는 요소가 많아집니다. 예측 시점에는 계층의 출력값이 입력값과 동일합니다.

최댓값 또는 평균값 풀링 계층과 비슷하게 이 계층에서는 학습이 이루어지지 않습니다.

이미지 입력의 경우, 계층은 각 이미지의 각 채널에 대해 서로 다른 마스크를 적용합니다. 시퀀스 입력의 경우, 계층은 각 시퀀스의 각 시간 스텝에 대해 서로 다른 드롭아웃 마스크를 적용합니다.

참고 문헌

[1] Srivastava, N., G. Hinton, A. Krizhevsky, I. Sutskever, R. Salakhutdinov. "Dropout: A Simple Way to Prevent Neural Networks from Overfitting." Journal of Machine Learning Research. Vol. 15, pp. 1929-1958, 2014.

[2] Krizhevsky, A., I. Sutskever, and G. E. Hinton. "ImageNet Classification with Deep Convolutional Neural Networks." Advances in Neural Information Processing Systems. Vol. 25, 2012.

참고 항목

imageInputLayer | reluLayer

도움말 항목

• 간단한 분류용 심층 학습 네트워크 만들기
• 회귀를 위해 컨벌루션 신경망 훈련시키기
• MATLAB의 심층 학습
• 컨벌루션 신경망의 계층 지정하기
• 심층 학습 계층 목록

R2016a에 개발됨

×

Open Example (ko_KR)

A modified version of this example exists on your system. Do you want to open this version instead? (ko_KR)

No, overwrite the modified version (ko_KR) Yes (ko_KR)