Main Content

검증

견고한 신경망을 훈련시키고 신경망의 견고성 검증

딥러닝 검증은 심층 신경망의 속성을 평가하기 위한 일련의 기법입니다. 예를 들면 신경망의 견고성 속성을 검증하고 신경망 출력 범위를 계산하고 적대적 표본을 찾고 분포 외(out-of-distribution) 데이터를 감지하고 산업 표준의 준수 여부를 확인할 수 있습니다.

Deep Learning Toolbox Verification Library 지원 패키지를 사용하면 딥러닝 신경망의 견고성 속성을 테스트할 수 있습니다.

  • verifyNetworkRobustness 함수를 사용하여 적대적 표본에 대한 신경망의 견고성을 검증합니다. 지정된 입력 하한과 입력 상한 사이에서 입력값이 섭동되었을 때 신경망의 예측 클래스가 바뀌지 않는다면 이 신경망은 적대적 입력값에 대해 견고합니다. 입력 범위 집합에 대해, 함수는 신경망이 해당 입력 범위 사이에서 적대적 표본에 대해 견고한지 확인하고 verified, violated 또는 unproven을 반환합니다.

  • estimateNetworkOutputBounds 함수를 사용하여 입력이 지정된 하한과 상한 사이에 있을 때 신경망이 반환하는 출력값의 범위를 추정합니다. 이 함수를 사용하여 신경망 예측이 입력 섭동에 얼마나 민감한지 추정합니다.

  • networkDistributionDiscriminator 함수를 사용하여 데이터를 분포 내(in-distribution) 데이터와 분포 외(out-of-distribution) 데이터로 분리하는 분포 판별기를 만듭니다.

함수

estimateNetworkOutputBounds Estimate output bounds of deep learning network (R2022b 이후)
verifyNetworkRobustnessVerify adversarial robustness of deep learning network (R2022b 이후)
networkDistributionDiscriminator Deep learning distribution discriminator (R2023a 이후)
isInNetworkDistributionDetermine whether data is within the distribution of the network (R2023a 이후)
distributionScoresDistribution confidence scores (R2023a 이후)
driseExplain object detection network predictions using D-RISE (R2024a 이후)
deep.gpu.deterministicAlgorithmsSet determinism of deep learning operations on the GPU to get reproducible results (R2024b 이후)

객체

BaselineDistributionDiscriminatorBaseline distribution discriminator (R2023a 이후)
EnergyDistributionDiscriminatorEnergy distribution discriminator (R2023a 이후)
ODINDistributionDiscriminatorODIN distribution discriminator (R2023a 이후)
HBOSDistributionDiscriminatorHBOS distribution discriminator (R2023a 이후)

도움말 항목

추천 예제