이 페이지의 최신 내용은 아직 번역되지 않았습니다. 최신 내용은 영문으로 볼 수 있습니다.

leakyReluLayer

Leaky ReLU(Rectified Linear Unit) 계층

설명

Leaky ReLU 계층은 0보다 작은 모든 입력값에 고정된 스칼라를 곱하는 임계값 연산을 수행합니다.

이 연산은 다음과 동일합니다.

$$f(x)=\{\begin{array}{ll}x,\hfill & x\ge 0\hfill \\ scale*x,\hfill & x<0\hfill \end{array}.$$

생성

구문

layer = leakyReluLayer

layer = leakyReluLayer(scale)

layer = leakyReluLayer(___,'Name',Name)

설명

layer = leakyReluLayer는 Leaky ReLU 계층을 반환합니다.

layer = leakyReluLayer(scale)은 음의 입력값에 대한 스칼라 승수가 scale인 Leaky ReLU 계층을 반환합니다.

layer = leakyReluLayer(___,'Name',Name)은 Leaky ReLU 계층을 반환하고 선택적 속성인 Name을 설정합니다.

속성

Leaky ReLU

Scale — 음의 입력값에 대한 스칼라 승수

0.01 (디폴트 값) | 숫자형 스칼라

음의 입력값에 대한 스칼라 승수로, 숫자형 스칼라로 지정됩니다.

예: 0.4

계층

Name — 계층 이름

'' (디폴트 값) | 문자형 벡터 | string형 스칼라

계층 이름으로, 문자형 벡터 또는 string형 스칼라로 지정됩니다. 계층 그래프에 계층을 포함하려면 비어 있지 않은 고유한 계층 이름을 지정해야 합니다. 이 계층을 사용하여 시리즈 네트워크를 훈련시킬 때 Name을 ''로 설정하면, 소프트웨어가 훈련 시점에 해당 계층에 자동으로 이름을 할당합니다.

데이터형: char | string

NumInputs — 입력값의 개수

1 (디폴트 값)

계층의 입력값 개수. 이 계층은 단일 입력값만 받습니다.

데이터형: double

InputNames — 입력값 이름

{'in'} (디폴트 값)

계층의 입력값 이름. 이 계층은 단일 입력값만 받습니다.

데이터형: cell

NumOutputs — 출력값 개수

1 (디폴트 값)

계층의 출력값 개수. 이 계층은 단일 출력값만 가집니다.

데이터형: double

OutputNames — 출력값 이름

{'out'} (디폴트 값)

계층의 출력값 이름. 이 계층은 단일 출력값만 가집니다.

데이터형: cell

예제

Leaky ReLU 계층 만들기

이름이 'leaky1' 이고 음의 입력값에 대한 스칼라 승수가 0.1인 Leaky ReLU 계층을 만듭니다.

layer = leakyReluLayer(0.1,'Name','leaky1')

layer = 
  LeakyReLULayer with properties:

     Name: 'leaky1'

   Hyperparameters
    Scale: 0.1000

Layer 배열에 Leaky ReLU 계층을 포함시킵니다.

layers = [
    imageInputLayer([28 28 1])
    convolution2dLayer(3,16)
    batchNormalizationLayer
    leakyReluLayer
    
    maxPooling2dLayer(2,'Stride',2)
    convolution2dLayer(3,32)
    batchNormalizationLayer
    leakyReluLayer
    
    fullyConnectedLayer(10)
    softmaxLayer
    classificationLayer]

layers = 
  11x1 Layer array with layers:

     1   ''   Image Input             28x28x1 images with 'zerocenter' normalization
     2   ''   Convolution             16 3x3 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   Batch Normalization     Batch normalization
     4   ''   Leaky ReLU              Leaky ReLU with scale 0.01
     5   ''   Max Pooling             2x2 max pooling with stride [2  2] and padding [0  0  0  0]
     6   ''   Convolution             32 3x3 convolutions with stride [1  1] and padding [0  0  0  0]
     7   ''   Batch Normalization     Batch normalization
     8   ''   Leaky ReLU              Leaky ReLU with scale 0.01
     9   ''   Fully Connected         10 fully connected layer
    10   ''   Softmax                 softmax
    11   ''   Classification Output   crossentropyex

참고 문헌

[1] Maas, Andrew L., Awni Y. Hannun, and Andrew Y. Ng. "Rectifier nonlinearities improve neural network acoustic models." In Proc. ICML, vol. 30, no. 1. 2013.

참고 항목

clippedReluLayer | reluLayer

도움말 항목

• 간단한 분류용 심층 학습 네트워크 만들기
• 회귀를 위해 컨벌루션 신경망 훈련시키기
• MATLAB의 심층 학습
• 컨벌루션 신경망의 계층 지정하기
• 심층 학습 계층 목록

R2017b에 개발됨

×

Open Example (ko_KR)

A modified version of this example exists on your system. Do you want to open this version instead? (ko_KR)

No, overwrite the modified version (ko_KR) Yes (ko_KR)