심층 신경망이 엔지니어드 시스템, 특히 안전 필수 응용 분야의 일부가 되면서 그 신뢰성과 견고성을 보장하는 것이 매우 중요해졌습니다. Deep Learning Toolbox Verification Library를 사용하면 심층 신경망을 엄격하게 평가하고 테스트할 수 있습니다.
Deep Learning Toolbox Verification Library로 다음과 같은 작업을 수행할 수 있습니다.
- 적대적 표본에 대한 견고성과 같은 심층 신경망의 속성 검증
- 입력 섭동에 대한 신경망 예측값의 민감도 추정
- 런타임 모니터링에서 데이터를 학습 내 분포 데이터 및 학습 외 분포 데이터로 구분하는 분포 판별기 생성
- 신경망과 신경망 성능을 감독하는 런타임 모니터링 시스템 배포
- 항공 딥러닝 시스템 검증을 위한 사례 연구 살펴보기
분류에 대한 심층 신경망의 견고성 검증
정형 기법을 사용하여 적대적 표본(신경망이 오분류하도록 설계된 미묘하게 변경된 입력)에 대한 신경망의 견고성을 강화할 수 있습니다. 이 접근법을 통해 무한한 수의 입력을 테스트하고 섭동이 있는 경우에도 예측 일관성을 증명하고 신경망의 신뢰성과 정확도가 향상되도록 훈련을 개선할 수 있습니다.
회귀를 위한 심층 신경망의 출력 범위 추정
정형 기법을 사용하여 입력 범위가 주어진 신경망의 하한 및 상한 출력 범위를 추정할 수 있습니다. 이 과정을 통해 주어진 입력 섭동에 대한 신경망의 잠재적인 출력에 대한 이해를 넓힐 수 있으므로 제어 시스템, 신호 처리 등과 같은 시나리오에서 안정적인 성능을 보장할 수 있습니다.
런타임 모니터링을 통한 안전한 딥러닝 시스템 구축
런타임 모니터링과 학습 외 분포 데이터 탐지를 통합하여 안전한 딥러닝 시스템을 구축할 수 있습니다. 수신 데이터가 훈련 데이터와 일치하는지 지속적으로 평가하면 신경망 출력을 신뢰할지 또는 안전한 처리를 위해 리디렉션할지 결정하여 시스템 안전과 신뢰성을 향상할 수 있습니다.
사례 연구: 항공 딥러닝 시스템 검증
항공 딥러닝 시스템이 DO-178C, ARP4754A 등의 항공 산업 표준 및 향후 EASA 및 FAA 지침을 따르는지 검증하는 사례 연구를 살펴볼 수 있습니다. 이 사례 연구에서는 딥러닝 시스템에 대한 산업 표준 및 지침을 완벽하게 준수하기 위해 필요한 단계를 종합적으로 살펴볼 수 있습니다.
제약 딥러닝
제약 딥러닝은 도메인 특정 제약 조건을 학습 과정에 통합하여 심층 신경망을 훈련시키는 고급 접근법입니다. 이러한 제약 조건을 신경망의 구성 및 훈련에 통합하여 바람직한 거동의 보장이 중요한 안전 필수 시나리오에서 이를 보장할 수 있습니다.
설명 가능성
설명 가능성 기법을 사용하여 신경망의 의사결정 과정을 이해할 수 있습니다. D-RISE(Detector Randomized Input Sampling for Explanation) 알고리즘 같은 방법을 활용하여 객체 검출기의 돌출 지도를 계산하고 신경망의 예측에 가장 큰 영향을 미치는 입력 데이터 내의 특정 영역을 시각화할 수 있습니다.
지원 패키지 다운로드
질문이 있습니까?
기술 전문가와 상의해 보십시오.
