시각화 및 해석 가능성

훈련 진행 상황 플로팅, 정확도 평가, 예측 설명 및 신경망이 학습한 특징 시각화

신경망의 정확도와 손실을 표현하는 내장 플롯을 사용하여 훈련 진행 상황을 모니터링합니다. Grad-CAM, 가림(occlusion) 민감도, LIME, 딥 드림 같은 시각화 기법을 사용하여 훈련된 신경망을 조사합니다.

딥러닝 시각화 방법

Flow chart showing methods used to visualize the predictions made by a trained network. The visualization methods can be used for verification, debugging, learning, detecting bias, and model selection.

Deep Learning Visualization Methods

앱

심층 신경망 디자이너

딥러닝 신경망을 설계하고 시각화합니다

객체

trainingProgressMonitor Monitor and plot training progress for deep learning custom training loops (R2022b 이후)

함수

모두 확장

신경망

`analyzeNetwork`	딥러닝 신경망 아키텍처 분석
`plot`	신경망 아키텍처 플로팅

훈련 진행 상황

`updateInfo`	Update information values for custom training loops (R2022b 이후)
`recordMetrics`	Record metric values for custom training loops (R2022b 이후)
`groupSubPlot`	Group metrics in training plot (R2022b 이후)
`yscale`	Set training plot y-axis scale (linear or logarithmic) (R2024a 이후)

메트릭

`accuracyMetric`	Deep learning accuracy metric (R2023b 이후)
`aucMetric`	Deep learning area under ROC curve (AUC) metric (R2023b 이후)
`fScoreMetric`	Deep learning F-score metric (R2023b 이후)
`precisionMetric`	Deep learning precision metric (R2023b 이후)
`recallMetric`	Deep learning recall metric (R2023b 이후)
`rmseMetric`	Deep learning root mean squared error metric (R2023b 이후)

예측

`predict`	Compute deep learning network output for inference (R2019b 이후)
`minibatchpredict`	Mini-batched neural network prediction (R2024a 이후)
`scores2label`	Convert prediction scores to labels (R2024a 이후)
`confusionchart`	Create confusion matrix chart for classification problem
`sortClasses`	Sort classes of confusion matrix chart
`rocmetrics`	Receiver operating characteristic (ROC) curve and performance metrics for binary and multiclass classifiers (R2022b 이후)
`addMetrics`	Compute additional classification performance metrics (R2022b 이후)
`average`	Compute performance metrics for average receiver operating characteristic (ROC) curve in multiclass problem (R2022b 이후)
`plot`	Plot receiver operating characteristic (ROC) curves and other performance curves (R2022b 이후)

해석 가능성

`imageLIME`	Explain network predictions using LIME (R2020b 이후)
`occlusionSensitivity`	Explain network predictions by occluding the inputs (R2019b 이후)
`deepDreamImage`	딥 드림(Deep Dream)을 사용하여 신경망 특징 시각화
`gradCAM`	Explain network predictions using Grad-CAM (R2021a 이후)
`drise`	Explain object detection network predictions using D-RISE (R2024a 이후)

속성

ConfusionMatrixChart Properties	Confusion matrix chart appearance and behavior
ROCCurve Properties	Receiver operating characteristic (ROC) curve appearance and behavior (R2022b 이후)

도움말 항목

훈련 진행 상황 및 성능

딥러닝 훈련 진행 상황 모니터링하기
이 예제에서는 딥러닝 신경망의 훈련 진행 상황을 모니터링하는 방법을 보여줍니다.
Monitor Custom Training Loop Progress
Track and plot custom training loop progress.
Monitor GAN Training Progress and Identify Common Failure Modes
Learn how to diagnose and fix some of the most common failure modes in GAN training.
ROC Curve and Performance Metrics
Use rocmetrics to examine the performance of a classification algorithm on a test data set.
Compare Deep Learning Models Using ROC Curves
This example shows how to use receiver operating characteristic (ROC) curves to compare the performance of deep learning models.
Define Custom Metric Function
Define custom deep learning metrics using functions.
Define Custom Deep Learning Metric Object
Learn how to define custom deep learning metrics using custom classes.
Define Custom F-Beta Score Metric Object
This example shows how to define a generic F-beta score metric.

해석 가능성

Explore Network Predictions Using Deep Learning Visualization Techniques
This example shows how to investigate network predictions using deep learning visualization techniques.
Understand Network Predictions Using Occlusion
This example shows how to use occlusion sensitivity maps to understand why a deep neural network makes a classification decision.
Interpret Deep Network Predictions on Tabular Data Using LIME
This example shows how to use the locally interpretable model-agnostic explanations (LIME) technique to understand the predictions of a deep neural network classifying tabular data.
Investigate Spectrogram Classifications Using LIME
This example shows how to use locally interpretable model-agnostic explanations (LIME) to investigate the robustness of a deep convolutional neural network trained to classify spectrograms.
Investigate Classification Decisions Using Gradient Attribution Techniques
This example shows how to use gradient attribution maps to investigate which parts of an image are most important for classification decisions made by a deep neural network.
Investigate Network Predictions Using Class Activation Mapping
This example shows how to use class activation mapping (CAM) to investigate and explain the predictions of a deep convolutional neural network for image classification.
Visualize Image Classifications Using Maximal and Minimal Activating Images
This example shows how to use a data set to find out what activates the channels of a deep neural network.
View Network Behavior Using tsne
This example shows how to use the tsne function to view activations in a trained network.
LSTM 신경망의 활성화 시각화
이 예제에서는 활성화를 추출하여 LSTM 신경망에서 학습한 특징을 검사하고 시각화하는 방법을 보여줍니다.
컨벌루션 신경망의 활성화 시각화하기
이 예제에서는 컨벌루션 신경망에 영상을 입력하고 신경망의 여러 계층의 활성화 결과를 표시하는 방법을 보여줍니다.
컨벌루션 신경망의 특징 시각화하기
이 예제에서는 컨벌루션 신경망이 학습한 특징을 시각화하는 방법을 보여줍니다.
Deep Learning Visualization Methods
Learn about and compare deep learning visualization methods.

추천 예제

Detect Vanishing Gradients in Deep Neural Networks by Plotting Gradient Distributions

Monitor vanishing gradients while training a deep neural network.

라이브 스크립트 열기

딥러닝이 내린 결정에 대한 이유를 설명해 주는 Grad-CAM

이 예제에서는 Grad-CAM(gradient-weighted class activation mapping: 기울기 가중 클래스 활성화 매핑) 기법을 사용하여 딥러닝 신경망이 어떤 근거로 분류 결정을 내렸는지 이해하는 방법을 보여줍니다. Grad-CAM은 Selvaraju와 공동 저자[1]가 발명한 것으로, 영상을 분류할 때 입력 영상의 어느 부분이 가장 중요했는지 이해하기 위해 신경망이 판별한 컨벌루션 특징에 대한 분류 점수의 기울기를 사용합니다. 이 예제에서는 영상에 사전 훈련된 GoogLeNet 신경망을 사용합니다.

라이브 스크립트 열기

Interpret Deep Learning Time-Series Classifications Using Grad-CAM

Use the gradient-weighted class activation mapping (Grad-CAM) technique to understand the classification decisions of a 1-D convolutional neural network trained on time-series data.

라이브 스크립트 열기

Understand Network Predictions Using LIME

Use locally interpretable model-agnostic explanations (LIME) to understand why a deep neural network makes a classification decision.

라이브 스크립트 열기

Explore Semantic Segmentation Network Using Grad-CAM

Explore the predictions of a pretrained semantic segmentation network using Grad-CAM.

라이브 스크립트 열기

Investigate Audio Classifications Using Deep Learning Interpretability Techniques

Use interpretability techniques to investigate the predictions of a deep neural network trained to classify audio data.

라이브 스크립트 열기

GoogLeNet을 사용한 딥 드림 영상

이 예제에서는 사전 훈련된 컨벌루션 신경망 GoogLeNet으로 deepDreamImage를 사용하여 영상을 생성하는 방법을 보여줍니다.

라이브 스크립트 열기

Detect Issues During Deep Neural Network Training

Automatically detect issues while training a deep neural network.

라이브 스크립트 열기

Explore Quantized Semantic Segmentation Network Using Grad-CAM

Compare the predictions of a quantized semantic segmentation network to the original network using the gradient-weighted class activation mapping (Grad-CAM) interpretability method.

라이브 스크립트 열기