검증

견고한 신경망을 훈련시키고 신경망의 견고성 검증

딥러닝 검증은 심층 신경망의 속성을 평가하기 위한 일련의 기법입니다. 예를 들면 신경망의 견고성 속성을 검증하고 신경망 출력 범위를 계산하고 적대적 표본을 찾고 분포 외(out-of-distribution) 데이터를 감지하고 산업 표준의 준수 여부를 확인할 수 있습니다.

Deep Learning Toolbox Verification Library 지원 패키지를 사용하면 딥러닝 신경망의 견고성 속성을 테스트할 수 있습니다.

verifyNetworkRobustness 함수를 사용하여 적대적 표본에 대한 신경망의 견고성을 검증합니다. 지정된 입력 하한과 입력 상한 사이에서 입력값이 섭동되었을 때 신경망의 예측 클래스가 바뀌지 않는다면 이 신경망은 적대적 입력값에 대해 견고합니다. 입력 범위 집합에 대해, 함수는 신경망이 해당 입력 범위 사이에서 적대적 표본에 대해 견고한지 확인하고 verified, violated 또는 unproven을 반환합니다.
estimateNetworkOutputBounds 함수를 사용하여 입력이 지정된 하한과 상한 사이에 있을 때 신경망이 반환하는 출력값의 범위를 추정합니다. 이 함수를 사용하여 신경망 예측이 입력 섭동에 얼마나 민감한지 추정합니다.
networkDistributionDiscriminator 함수를 사용하여 데이터를 분포 내(in-distribution) 데이터와 분포 외(out-of-distribution) 데이터로 분리하는 분포 판별기를 만듭니다.

함수

`estimateNetworkOutputBounds`	Estimate output bounds of deep learning network (R2022b 이후)
`verifyNetworkRobustness`	Verify adversarial robustness of deep learning network (R2022b 이후)
`networkDistributionDiscriminator`	Deep learning distribution discriminator (R2023a 이후)
`isInNetworkDistribution`	Determine whether data is within the distribution of the network (R2023a 이후)
`distributionScores`	Distribution confidence scores (R2023a 이후)
`drise`	Explain object detection network predictions using D-RISE (R2024a 이후)

객체

`BaselineDistributionDiscriminator`	Baseline distribution discriminator (R2023a 이후)
`EnergyDistributionDiscriminator`	Energy distribution discriminator (R2023a 이후)
`ODINDistributionDiscriminator`	ODIN distribution discriminator (R2023a 이후)
`HBOSDistributionDiscriminator`	HBOS distribution discriminator (R2023a 이후)

도움말 항목

Verification of Neural Networks
Learn about verification of neural networks using Deep Learning Toolbox™ Verification Library.
Verify Robustness of Deep Learning Neural Network
This example shows how to verify the adversarial robustness of a deep learning neural network.
Verify Robustness of ONNX Network
This example shows how to verify the adversarial robustness of an imported ONNX™ deep neural network. (R2024a 이후)
Deep Learning Visualization Methods
Learn about and compare deep learning visualization methods.
Out-of-Distribution Detection for Deep Neural Networks
This example shows how to detect out-of-distribution (OOD) data in deep neural networks.
Verify an Airborne Deep Learning System
This example shows how to verify a deep learning system for airborne applications and is based on the work in [5,6,7], which includes the development and verification activities required by DO-178C [1], ARP4754A [2], and prospective EASA and FAA guidelines [3,4]. (R2023b 이후)

추천 예제

Generate Untargeted and Targeted Adversarial Examples for Image Classification

Use the fast gradient sign method (FGSM) and the basic iterative method (BIM) to generate adversarial examples for a pretrained neural network.

라이브 스크립트 열기

Train Image Classification Network Robust to Adversarial Examples

Train a neural network that is robust to adversarial examples using fast gradient sign method (FGSM) adversarial training.

라이브 스크립트 열기

Train Robust Deep Learning Network with Jacobian Regularization

Train a neural network that is robust to adversarial examples using a Jacobian regularization scheme.

라이브 스크립트 열기

Generate Adversarial Examples for Semantic Segmentation

Generate adversarial examples for a semantic segmentation network using the basic iterative method (BIM).

라이브 스크립트 열기

Explore Semantic Segmentation Network Using Grad-CAM

Explore the predictions of a pretrained semantic segmentation network using Grad-CAM.

라이브 스크립트 열기

Interpret Deep Network Predictions on Tabular Data Using LIME

Use the locally interpretable model-agnostic explanations (LIME) technique to understand the predictions of a deep neural network classifying tabular data. You can use the LIME technique to understand which predictors are most important to the classification decision of a network.

라이브 스크립트 열기

Out-of-Distribution Data Discriminator for YOLO v4 Object Detector

Detect out-of-distribution (OOD) data in a YOLO v4 object detector.

라이브 스크립트 열기

Out-of-Distribution Detection for LSTM Document Classifier

Detect out-of-distribution (OOD) data in an LSTM document classifier.

라이브 스크립트 열기