검증

견고한 신경망을 훈련시키고 신경망의 견고성 검증

딥러닝 검증은 심층 신경망의 속성을 평가하기 위한 일련의 기법입니다. 예를 들면 신경망의 견고성 속성을 검증하고 신경망 출력 범위를 계산하고 적대적 표본을 찾고 분포 외(out-of-distribution) 데이터를 감지할 수 있습니다.

Deep Learning Toolbox™ Verification Library 지원 패키지를 사용하면 딥러닝 신경망의 견고성 속성을 테스트할 수 있습니다.

verifyNetworkRobustness 함수를 사용하여 적대적 표본에 대한 신경망의 견고성을 검증합니다. 지정된 입력 하한과 입력 상한 사이에서 입력값이 섭동되었을 때 신경망의 예측 클래스가 바뀌지 않는다면 이 신경망은 적대적 입력값에 대해 견고합니다. 입력 범위 집합에 대해, 함수는 신경망이 해당 입력 범위 사이에서 적대적 표본에 대해 견고한지 확인하고 verified, violated 또는 unproven을 반환합니다.
estimateNetworkOutputBounds 함수를 사용하여 입력이 지정된 하한과 상한 사이에 있을 때 신경망이 반환하는 출력값의 범위를 추정합니다. 이 함수를 사용하여 신경망 예측이 입력 섭동에 얼마나 민감한지 추정합니다.
networkDistributionDiscriminator 함수를 사용하여 데이터를 분포 내(in-distribution) 데이터와 분포 외(out-of-distribution) 데이터로 분리하는 분포 판별기를 만듭니다.

함수

`estimateNetworkOutputBounds`	Estimate output bounds of deep learning network
`verifyNetworkRobustness`	Verify adversarial robustness of deep learning network
`networkDistributionDiscriminator`	Deep learning distribution discriminator
`isInNetworkDistribution`	Determine whether data is within the distribution of the network
`distributionScores`	Distribution confidence scores

객체

`BaselineDistributionDiscriminator`	Baseline distribution discriminator
`EnergyDistributionDiscriminator`	Energy distribution discriminator
`ODINDistributionDiscriminator`	ODIN distribution discriminator
`HBOSDistributionDiscriminator`	HBOS distribution discriminator

도움말 항목

Verify Robustness of Deep Learning Neural Network
This example shows how to verify the adversarial robustness of a deep learning neural network.
Deep Learning Visualization Methods
Learn about and compare deep learning visualization methods.
Out-of-Distribution Detection for Deep Neural Networks
This example shows how to detect out-of-distribution (OOD) data in deep neural networks.

추천 예제

Generate Untargeted and Targeted Adversarial Examples for Image Classification

Use the fast gradient sign method (FGSM) and the basic iterative method (BIM) to generate adversarial examples for a pretrained neural network.

라이브 스크립트 열기

Train Image Classification Network Robust to Adversarial Examples

Train a neural network that is robust to adversarial examples using fast gradient sign method (FGSM) adversarial training.

라이브 스크립트 열기

Train Robust Deep Learning Network with Jacobian Regularization

Train a neural network that is robust to adversarial examples using a Jacobian regularization scheme [1].

라이브 스크립트 열기

Generate Adversarial Examples for Semantic Segmentation

Generate adversarial examples for a semantic segmentation network using the basic iterative method (BIM).

라이브 스크립트 열기

Explore Semantic Segmentation Network Using Grad-CAM

Explore the predictions of a pretrained semantic segmentation network using Grad-CAM.

라이브 스크립트 열기

Interpret Deep Network Predictions on Tabular Data Using LIME

Use the locally interpretable model-agnostic explanations (LIME) technique to understand the predictions of a deep neural network classifying tabular data. You can use the LIME technique to understand which predictors are most important to the classification decision of a network.

라이브 스크립트 열기

Out-of-Distribution Data Discriminator for YOLO v4 Object Detector

Detect out-of-distribution (OOD) data in a YOLO v4 object detector.

라이브 스크립트 열기