• 산업문제명기계 학습 방법을 이용한 예측 시스템의 설명·해석 가능성 연구
• 기업㈜인텔리코드
• 키워드이상탐지, XAI
• 산업문제 내용· 기업소개 : ㈜인텔리코드- 전산 시스템의 로그 데이터를 이용하여 이상 징후를 탐지하는 시스템 솔루션 공급기업 · 산업문제 : 기계 학습 모델에서 기계가 찾아낸 패턴을 인간이 이해, 해석 가능하도록 하는 방법론 연구
• 문제해결 결과· 제시된 해결방안 : 1. 회귀 분석과 결정 트리 학습법 등 특정 방법들은 모델의 특성상 학습 과정이나 학습 결과 자체가 어느 정도 해석 가능성을 가지고 있음 2. 위 모델이 가지고 있는 해석 가능성에 대한 설명과 적용 예제를 제시 3. 딥러닝과 같은 인공신경망의 경우 모델 구조상 모델 자체만으로는 해석 가능성을 확보하기 힘듦 4. 모델과 상관없이 적용 가능한(model-agnostic) 방법 중 순열 중요도(permutation feature importance)와 LIME(local interpretable model-agnostic explanations) 등 몇 가지 방법에 대한 설명과 적용 예제를 제시 · 활용계획 및 기대성과 : 1. 실무에서 사용할 수 있도록 시각화와 UX 구현 후 활용 예정 2. 계속해서 발표되고 있는 관련 최신 논문 분석 및 구현 공동 연구 예정