### ※ 기업체와의 비밀유지동의서에 의한 비밀유지 의무로 인하여 개략적인 내용만 서술하였습니다. **1. 기업소개**  * ㈜인텔리코드는 전산 시스템의 로그 데이터를 이용하여 이상 징후를 탐지하는 시스템 솔루션 공급기업 **2. 문제배경 및 소개** * 기계 학습 모델에서 기계가 찾아낸 패턴을 인간이 이해, 해석 가능하도록 하는 방법론 연구 **3. 해결 과정** (2019년 7월 ~ 2019년 11월, 5개월) * 회귀 분석과 결정 트리 학습법 등 특정 방법들은 모델의 특성상 학습 과정이나 학습 결과 자체가 어느 정도의 해석 가능성을 가지고 있음 * 위의 모델이 가지고 있는 해석 가능성에 대한 설명과 적용 예제를 제시함 * 딥러닝과 같은 인공신경망의 경우 학습 내부 프로세스상 모델 자체의 구조와 학습 과정으로는 해석 가능성을 확보하기 힘듦 * 모델과 상관없이 적용 가능한(model-agnostic) 방법 중 순열 중요도(permutation feature importance)와 LIME(local interpretable model-agnostic explanations) 방법에 대한 설명과 적용 예제를 제시함 **4. 성과 및 향후계획** * 실무에서 사용할 수 있도록 시각화와 UX 구현 후 활용 예정 * 계속해서 발표되고 있는 관련 최신 논문 분석 및 구현 공동 연구 예정