이 페이지의 최신 내용은 아직 번역되지 않았습니다. 최신 내용은 영문으로 볼 수 있습니다.

헤세 행렬

fminunc 헤세 행렬

제약 조건이 없는 문제에 대한 헤세 행렬은 목적 함수 f의 2계 도함수로 구성된 행렬입니다.

Hessian Hij=2fxixj.

  • Quasi-Newton 알고리즘fminunc는 해에서 추정된 헤세 행렬을 반환합니다. 이 함수는 유한 차분에 의한 추정값을 계산합니다.

  • Trust-Region 알고리즘fminunc는 끝에서 두 번째 반복에서 헤세 행렬을 반환합니다.

    • 목적 함수에 헤세 행렬을 제공할 경우 fminunc는 이 헤세 행렬을 반환합니다.

    • HessMult 함수를 제공할 경우 fminuncHessMult 함수에서 Hinfo 행렬을 반환합니다. 자세한 내용은 fminunc options 표의 trust-region 섹션에서 HessMult를 참조하십시오.

    • 그렇지 않은 경우, fminunc는 기울기에 대한 희소 유한 차분 알고리즘에서 근삿값을 반환합니다.

    이 헤세 행렬은 끝에서 두 번째 반복에 대해 정확합니다. 하지만 끝에서 두 번째 반복이 최종점에 가깝지 않을 수 있습니다.

    trust-region 알고리즘이 끝에서 두 번째 지점에서 헤세 행렬을 반환하는 이유는 효율성 때문입니다. fminunc는 내부적으로 헤세 행렬을 사용하여 그 다음 단계를 계산합니다. fminunc가 중지 조건에 이르면 다음 단계를 계산할 필요가 없으므로 헤세 행렬을 계산할 필요도 없습니다.

fmincon 헤세 행렬

제약 조건이 적용된 문제에 대한 헤세 행렬은 라그랑주 함수의 헤세 행렬입니다. 목적 함수 f, 비선형 부등식 제약 조건 벡터 c, 비선형 등식 제약 조건 벡터 ceq의 경우, 라그랑주 함수는 다음과 같습니다.

L=f+iλici+jλjceqj.

λi는 라그랑주 승수입니다. 1차 최적성 측정값Lagrange Multiplier Structures 항목을 참조하십시오. 라그랑주 함수의 헤세 행렬은 다음과 같습니다.

H=2L=2f+iλi2ci+jλj2ceqj.

fmincon의 Trust Region Reflective 알고리즘, fmincon의 Active-Set 알고리즘, fmincon의 Interior Point 알고리즘 항목에 설명되어 있는 것처럼, fmincon에는 헤세 행렬을 위한 여러 옵션과 함께 4가지 알고리즘이 있습니다. fmincon은 헤세 행렬에 대해 다음을 반환합니다.

  • active-set 또는 sqp 알고리즘fmincon은 끝에서 두 번째 반복에서 계산하는 헤세 행렬 근삿값을 반환합니다. fmincon은 반복 과정 중에 해에서 헤세 행렬의 준뉴턴 근삿값을 계산합니다. 이 근삿값은 일반적으로 모든 성분에서 실제 헤세 행렬과 일치하지는 않으며, 특정 부분공간에서만 일치합니다. 따라서 fmincon이 반환하는 헤세 행렬은 부정확할 수 있습니다. active-set 계산의 자세한 내용은 SQP 구현 항목을 참조하십시오.

  • trust-region-reflective 알고리즘fmincon은 끝에서 두 번째 반복에서 계산하는 헤세 행렬을 반환합니다.

    • 목적 함수에 헤세 행렬을 제공할 경우 fmincon은 이 헤세 행렬을 반환합니다.

    • HessMult 함수를 제공할 경우 fminconHessMult 함수에서 Hinfo 행렬을 반환합니다. 자세한 내용은 fmincon options에서 Trust-Region-Reflective 알고리즘을 참조하십시오.

    • 그렇지 않은 경우 fmincon은 기울기에 대한 희소 유한 차분 알고리즘에서 근삿값을 반환합니다.

    이 헤세 행렬은 끝에서 두 번째 반복에 대해 정확합니다. 하지만 끝에서 두 번째 반복이 최종점에 가깝지 않을 수 있습니다.

    trust-region-reflective 알고리즘이 끝에서 두 번째 지점에서 헤세 행렬을 반환하는 이유는 효율성 때문입니다. fmincon은 내부적으로 헤세 행렬을 사용하여 그 다음 단계를 계산합니다. fmincon이 중지 조건에 이르면 다음 단계를 계산할 필요가 없으므로 헤세 행렬을 계산할 필요도 없습니다.

  • interior-point 알고리즘

    • Hessian 옵션이 lbfgs 또는 fin-diff-grads이거나 헤세 행렬 곱셈 함수(HessMult)를 제공할 경우, fmincon은 헤세 행렬에 대해 []을 반환합니다.

    • Hessian 옵션이 bfgs(디폴트 값)인 경우, fmincon은 최종점에서 헤세 행렬에 대한 준뉴턴 근삿값을 반환합니다. 이 헤세 행렬은 active-set 또는 sqp 알고리즘에서의 헤세 행렬과 마찬가지로 부정확할 수 있습니다.

    • Hessian 옵션이 user-supplied인 경우, fmincon은 최종점에서 사용자가 제공한 헤세 행렬을 반환합니다.

관련 항목