AI 이미지 인식 서비스 환경의 Gradient 기반 적대적 공격 서비스 모델

• Published in: The journal of the institute of internet, broadcasting and communication : JIIBC Vol. 25; no. 3; pp. 17 - 24
• Main Author: 홍진근
• Format: Journal Article
• Language: Korean
• Published: 한국인터넷방송통신학회 30.06.2025
• Subjects: 컴퓨터학; Service risk; Image recognition; 적대적 공격; 서비스 위험; 그래디언트 공격; Adversarial attack; 인공지능; Artificial intelligence; Gradient attack; 이미지 인식
• ISSN: 2289-0238; 2289-0246
• DOI: 10.7236/JIIBC.2025.25.3.17

AI 이미지 서비스는 인공지능 기술을 활용하여 이미지 생성, 편집, 개선 등의 작업을 자동화하거나 지원하는 플랫폼이다. AI 이미지 서비스에 대항하는 적대적 공격 서비스가 존재한다. 본 연구에서는 gradient 기반의 적대적 공격 서비스를 중심으로 실험한다. Gradient 기반의 공격은 딥러닝 이미지 모델의 손실 함수의 기울기(gradient)를 이용하여 입력 이미지에 최소한의 변화를 준다. 본 연구에서는 gradient 기반의 적대적 공격 방법들과 핵심 코드들을 식별하고, 이어 RestNet18 환경에서 gradient 기반의 적대적 공격을 수행하고 그 결과를 확인함으로써 공격의 위험성을 확인하고 자 한다. 본 연구에서는 gradient 기반의 적대적 공격 모델 5개를 대상으로 적대적 공격 실험을 수행하였고 적대적 공격 성공 여부, PSNR 등의 성능 지표를 통해 결과를 확인하였다. 연구 결과에서는 최대 공격 성공률을 원하면 MI-FGSM 모델을, 시각적으로 은닉된 공격을 원한다면 A-MI-FGSM모델을, 탐지 우회를 선호하면 FGSM+Random 모델을, 공격 과 효율성의 균형을 원하면 MI-FGSM 모델을 사용하는 것이 적절함을 확인할 수 있다.