인공지능 모델의 이해와 검증

인공지능은 영상분류, 객체검출, 음성인식 그리고 기계번역에 이르기까지 다양한 분야에서 높은 성능을 보이고 있습니다. 그리고 이러한 우수한 성능 때문에 의료, 자동차, 국방 등 안전이 중요시되는 산업에도 인공지능을 적용하려는 요구가 대두되고 있습니다. 하지만 이러한 분야에서 꼭 거쳐야 하는 소프트웨어에 대한 인증 절차를 고려해볼 때 ‘인공지능을 어떻게 검증할 수 있을까’에 대한 의문을 가질 수밖에 없습니다.

본 세션에서는 인공지능 모델을 검증하기 위한 워크플로우를 알아보겠습니다. 영상 분류의 예에서 인공 신경망 내부구조의 움직임을 이해함으로써 모델의 설명가능성에 대한 기법들을 소개하겠습니다. 또한 Deep Learning Toolbox™ verification 라이브러리를 통해 모델의 견고성을 검증하는 방법 그리고 학습이후 추론 과정에서의 입력 데이터가 학습 과정에서 사용된 데이터의 범주에 포함되는지를 확인함으로써 정상 범주 밖의 데이터에 대한 대처 방법에 대해서도 소개될 것입니다. 인공지능 구성요소에 대한 철저한 검증으로 안전이 가장 중요한 분야에도 인공지능 모델이 어떻게 적용될 수 있는지를 확인하실 수 있습니다.