설명 가능한 AI 기법을 활용한 사이버범죄 탐지 연구 - 손진구; 송정영 (The journal of the institute of internet, broadcasting and communication : JIIBC, 2025)
본 연구는 네트워크 기술 발전으로 복잡해진 사이버범죄 환경에서, AI 기반 침입 탐지 시스템의 신뢰성과 해석 가능성을 향상시키기 위한 설명 가능한 AI(XAI) 기법을 제안한다. Grad-CAM++과 Occlusion Map을 결합한 Combined Heatmap을 도입하여, UNSW-NB15 데이터셋을 이용해 CNN 모델을 학습·평가하고, 모델이 탐지한 네트 워크 트래픽 패턴과 주요 Feature의 역할을 시각화하였다. 실험 결과, 제안 기법이 기존 기법보다 탐지 성능과 해석 가능성을 크게 개선하여 높은 정확도와 정밀도를 달성함을 확인하였으며, 이를 통해 AI 기반 IDS의 탐지 근거를 명확히 하고 수사 과정에서의 활용성을 높일 수 있음을 제시한다. 향후 연구에서는 다양한 네트워크 공격 유형 및 실시간 시스 템 적용에 관한 연구로 확장할 예정이다.