trainscg

스케일링된 켤레 기울기 역전파

페이지 내 모두 축소

구문

net.trainFcn = 'trainscg'
[trainedNet,tr] = train(net,...)

설명

net.trainFcn = 'trainscg'는 신경망의 trainFcn 속성을 설정합니다.

[trainedNet,tr] = train(net,...)은 trainscg를 사용하여 신경망을 훈련시킵니다.

trainscg는 스케일링된 켤레 기울기법에 따라 가중치와 편향 값을 업데이트하는 신경망 훈련 함수입니다.

아래에 디폴트 값과 함께 표시된 다음의 trainscg 훈련 파라미터에 따라 훈련이 이루어집니다.

  • net.trainParam.epochs — 훈련할 최대 Epoch 횟수. 디폴트 값은 1000입니다.

  • net.trainParam.show — 다음 표시까지 진행할 Epoch 횟수(표시하지 않으려면 NaN). 디폴트 값은 25입니다.

  • net.trainParam.showCommandLine — 명령줄 출력값 생성. 디폴트 값은 false입니다.

  • net.trainParam.showWindow — 훈련 GUI 표시. 디폴트 값은 true입니다.

  • net.trainParam.goal — 성능 목표. 디폴트 값은 0입니다.

  • net.trainParam.time — 훈련을 진행할 최대 시간(단위: 초). 디폴트 값은 inf입니다.

  • net.trainParam.min_grad — 최소 성능 기울기. 디폴트 값은 1e-6입니다.

  • net.trainParam.max_fail — 최대 검증 실패 횟수. 디폴트 값은 6입니다.

  • net.trainParam.mu — Marquardt 조정 파라미터. 디폴트 값은 0.005입니다.

  • net.trainParam.sigma — 2계 도함수 근사에 대한 가중치 변경 판별. 디폴트 값은 5.0e-5입니다.

  • net.trainParam.lambda — 헤세 행렬의 부정부호 여부를 규정하는 파라미터. 디폴트 값은 5.0e-7입니다.

예제

예제

모두 축소

이 예제에서는 신경망을 사용하여 입력값 p와 목표값 t로 구성된 문제를 푸는 방법을 보여줍니다.

p = [0 1 2 3 4 5];
t = [0 0 0 1 1 1];

은닉 뉴런 2개와 이 훈련 함수를 갖는 2계층 피드포워드 신경망을 만듭니다.

net = feedforwardnet(2,'trainscg');

신경망을 훈련시키고 테스트합니다.

net = train(net,p,t);
a = net(p)

다른 예제는 help feedforwardnet과 help cascadeforwardnet을 참조하십시오.

입력 인수

모두 축소

입력 신경망으로, network 객체로 지정됩니다. network 객체를 만들려면 feedforwardnet 또는 narxnet 등을 사용하십시오.

출력 인수

모두 축소

훈련된 신경망으로, network 객체로 반환됩니다.

훈련 기록(epoch와 perf)으로, 신경망 훈련 함수(net.NET.trainFcn)에 따라 필드가 결정되는 구조체로 반환됩니다. 다음과 같은 필드를 포함할 수 있습니다.

  • 훈련, 데이터 분할, 성능 함수와 파라미터

  • 훈련, 검증, 테스트 세트의 데이터 분할 인덱스

  • 훈련, 검증, 테스트 세트의 데이터 분할 마스크

  • Epoch 횟수(num_epochs) 및 최적의 Epoch(best_epoch).

  • 훈련 상태 이름 목록(states).

  • 훈련 전체에 걸쳐 기록된 각 상태 이름에 대한 필드

  • 최적의 신경망의 성능(best_perf, best_vperf, best_tperf)

세부 정보

모두 축소

알고리즘

trainscg는 신경망의 가중치, 순 입력값, 전달 함수가 도함수를 갖는 한 어떤 신경망도 훈련시킬 수 있습니다. 역전파는 가중치와 편향 변수 X에 대한 성능 perf의 도함수를 계산하기 위해 사용됩니다.

스케일링된 켤레 기울기 알고리즘은 traincgp, traincgf, traincgb에서와 마찬가지로 켤레 방향을 기반으로 하지만, 각 반복에서 직선 탐색을 수행하지 않습니다. 스케일링된 켤레 기울기 알고리즘에 대한 자세한 내용은 Moller(Neural Networks, Vol. 6, 1993, pp. 525–533)를 참조하십시오.

다음 조건 중 하나라도 충족되면 훈련이 중지됩니다.

  • epochs(반복)의 최대 횟수에 도달함.

  • time의 최대 값이 초과됨.

  • 성능이 goal로 최소화됨.

  • 성능 기울기가 min_grad 아래로 떨어짐.

  • (검증을 사용하는 경우) 검증 성능(검증 오류)이 마지막으로 감소한 이후로 max_fail배 넘게 증가함.

참고 문헌

[1] Moller. Neural Networks, Vol. 6, 1993, pp. 525–533

버전 내역

R2006a 이전에 개발됨

참고 항목

| | | | | | | | |