AI 모델이 엔지니어드 시스템, 특히 안전 필수 응용 분야의 일부가 되면서 그 신뢰성과 강인성을 보장하는 것이 매우 중요해졌습니다. AI Verification Library for Deep Learning Toolbox를 사용하면 AI 모델을 엄격하게 평가하고 테스트할 수 있습니다.
AI Verification Library를 사용해 다음과 같은 작업을 수행할 수 있습니다.
- 적대적 표본에 대한 강인성과 같은 AI 모델의 속성 검증
- 입력 섭동에 대한 AI 모델 예측값의 민감도 추정
- 런타임 모니터링에서 데이터를 학습 내 분포 데이터 및 학습 외 분포 데이터로 구분하는 분포 판별기 생성
- AI 모델 성능을 감독하는 런타임 모니터링 시스템 배포
- 항공 딥러닝 시스템 검증을 위한 사례 연구 살펴보기
AI 검증이란?
V-사이클과 같은 전통적인 V&V(검증 및 확인) 워크플로는 AI 모델에 적용하기에는 부족한 경우가 많습니다. AI 검증에는 의도된 동작을 보장하고 의도치 않은 동작을 방지하기 위한 엄격한 테스트가 수반됩니다. W 형태 개발 프로세스와 같은 조정된 방법은 적대적 입력, 학습 외 분포(Out-of-Distribution) 데이터 탐지, 불확실성 추정 및 신경망 속성 검증을 처리함으로써 강인성과 안전성을 개선할 수 있습니다.
- 신경망에 대한 정형 검증 방법 소개 - 비디오 (Tech Talk)
- MATLAB 및 Simulink로 AI를 사용한 검증 및 확인
- 신경망의 검증
항공 딥러닝 시스템 검증 (사례 연구)
항공 딥러닝 시스템이 DO-178C, ARP4754A 등의 항공 산업 표준 및 향후 EASA 및 FAA 지침을 따르는지 검증하는 사례 연구를 살펴볼 수 있습니다. 이 사례 연구에서는 딥러닝 시스템에 대한 산업 표준 및 지침을 완벽하게 준수하기 위해 필요한 단계를 포괄적으로 살펴볼 수 있습니다.
분류에 대한 심층 신경망의 강인성 검증
정형 기법을 사용해 적대적 표본(신경망이 오분류하도록 설계된 미묘하게 변경된 입력)에 대한 신경망의 강인성을 강화할 수 있습니다. 이 접근법을 통해 무한한 수의 입력을 테스트하고 섭동이 있는 경우에도 예측 일관성을 증명하고 신경망의 신뢰성과 정확도가 향상되도록 훈련을 개선할 수 있습니다.
회귀를 위한 심층 신경망의 출력 범위 추정
정형 기법을 사용해 입력 범위가 주어진 신경망의 출력 상한 범위를 추정할 수 있습니다. 이 과정을 통해 주어진 입력 섭동에 대한 신경망의 잠재적인 출력에 대한 이해를 넓힐 수 있으므로 제어 시스템, 신호 처리 등과 같은 시나리오에서 안정적인 성능을 보장할 수 있습니다.
런타임 모니터링을 통한 안전한 딥러닝 시스템 구축
런타임 모니터링과 학습 외 분포 데이터 탐지를 통합해 안전한 딥러닝 시스템을 구축할 수 있습니다. 수신 데이터가 훈련 데이터와 일치하는지 지속적으로 평가하면 신경망 출력을 신뢰할지 또는 안전한 처리를 위해 리디렉션할지 결정해 시스템 안전과 신뢰성을 향상할 수 있습니다.
설명 가능성 기법 사용
설명 가능성 기법을 사용해 신경망의 의사결정 과정을 이해할 수 있습니다. D-RISE(Detector Randomized Input Sampling for Explanation) 알고리즘 같은 방법을 활용해 객체 검출기의 돌출 지도를 계산하고 신경망의 예측에 가장 큰 영향을 미치는 입력 데이터 내의 특정 영역을 시각화할 수 있습니다.
제약 딥러닝 통합
제약 딥러닝은 도메인 특정 제약 조건을 학습 과정에 통합해 심층 신경망을 훈련시키는 고급 접근법입니다. 이러한 제약 조건을 신경망의 구성 및 훈련에 통합해 바람직한 거동의 보장이 중요한 안전 필수 시나리오에서 이를 보장할 수 있습니다.
지원 패키지 다운로드
AI Verification Library를 사용해 보세요.
질문이 있습니까?
기술 전문가와 상의해 보세요.
