제품 및 서비스

Deep Learning Toolbox Verification Library

심층 신경망의 견고성 및 신뢰성 보장

심층 신경망이 엔지니어드 시스템, 특히 안전 필수 응용 분야의 일부가 되면서 그 신뢰성과 견고성을 보장하는 것이 매우 중요해졌습니다. Deep Learning Toolbox Verification Library를 사용하면 심층 신경망을 엄격하게 평가하고 테스트할 수 있습니다.

Deep Learning Toolbox Verification Library로 다음과 같은 작업을 수행할 수 있습니다.

  • 적대적 표본에 대한 견고성과 같은 심층 신경망의 속성 검증
  • 입력 섭동에 대한 신경망 예측값의 민감도 추정
  • 런타임 모니터링에서 데이터를 학습 내 분포 데이터 및 학습 외 분포 데이터로 구분하는 분포 판별기 생성
  • 신경망과 신경망 성능을 감독하는 런타임 모니터링 시스템 배포
  • 항공 딥러닝 시스템 검증을 위한 사례 연구 살펴보기
MATLAB으로 양자 컴퓨팅을 사용하는 데스크탑 머신의 그림.

분류에 대한 심층 신경망의 견고성 검증

정형 기법을 사용하여 적대적 표본(신경망이 오분류하도록 설계된 미묘하게 변경된 입력)에 대한 신경망의 견고성을 강화할 수 있습니다. 이 접근법을 통해 무한한 수의 입력을 테스트하고 섭동이 있는 경우에도 예측 일관성을 증명하고 신경망의 신뢰성과 정확도가 향상되도록 훈련을 개선할 수 있습니다.

회귀를 위한 심층 신경망의 출력 범위 추정

정형 기법을 사용하여 입력 범위가 주어진 신경망의 하한 및 상한 출력 범위를 추정할 수 있습니다. 이 과정을 통해 주어진 입력 섭동에 대한 신경망의 잠재적인 출력에 대한 이해를 넓힐 수 있으므로 제어 시스템, 신호 처리 등과 같은 시나리오에서 안정적인 성능을 보장할 수 있습니다.

런타임 모니터링을 통한 안전한 딥러닝 시스템 구축

런타임 모니터링과 학습 외 분포 데이터 탐지를 통합하여 안전한 딥러닝 시스템을 구축할 수 있습니다. 수신 데이터가 훈련 데이터와 일치하는지 지속적으로 평가하면 신경망 출력을 신뢰할지 또는 안전한 처리를 위해 리디렉션할지 결정하여 시스템 안전과 신뢰성을 향상할 수 있습니다.

사례 연구: 항공 딥러닝 시스템 검증

항공 딥러닝 시스템이 DO-178C, ARP4754A 등의 항공 산업 표준 및 향후 EASA 및 FAA 지침을 따르는지 검증하는 사례 연구를 살펴볼 수 있습니다. 이 사례 연구에서는 딥러닝 시스템에 대한 산업 표준 및 지침을 완벽하게 준수하기 위해 필요한 단계를 종합적으로 살펴볼 수 있습니다.