AI Security LAB

권태경 교수님 지도하에 저희 정보보호/AI보안 연구실은 인공지능 기술의 급속한 발전이 가져온 새로운 보안 과제에 대응하기 위해 AI 기반 보안 위협 분석 및 대응 기술을 중심으로 다양한 주제를 연구하고 있습니다.
주요 연구 분야는 다음의 세 가지로 구성됩니다.

• AI 보안 : 시스템 자체의 안전성 확보를 위해 생성형 AI 기반 시스템에서의 정보 노출, 프롬프트 주입, 모델 탈옥 등 AI 고유의 취약점을 분석하고 방지하는 기술 개발 연구

• 딥페이크 : AI가 만들어낸 위협에 대응하기 위해, 다양한 플랫폼에서 유통되는 in-the-wild 딥페이크 콘텐츠에 대한 일반화된 탐지 모델 연구

• 취약성 탐지 : AI를 활용한 보안 강화 측면에서 퍼징, 심볼릭 실행, 정적·동적 분석 기법 등 자동화된 보안 분석 방법에 AI 기술을 접목하여, 코드, 시스템 로그, 네트워크 트래픽 상의 미확인 취약점을 효과적으로 탐지하는 연구

이를 통해 AI가 공격의 대상이자 수단, 그리고 방어 도구로 작용하는 보안 환경 속에서, 현실적인 위협에 대응 가능한 실용적이고 신뢰성 있는 AI 보안 기술을 개발하는 것을 목표로 하고 있습니다. 저희 연구실은 컴퓨터공학, 통계학, 수학 등 다양한 배경을 가진 정보 보호 인재들로 구성되어 있으며 정보화 사회에서 필요한 학문과 실무능력을 갖춘 정보보호 전문가가 되는 것을 목표로 연구와 학업에 대한 노력을 경주하며 다양한 연구 결과를 발표하고 있습니다.

Latest News

• 🔗 보안뉴스 [2025 AI 보안 솔루션 리포트] AI 보안 솔루션, 능동형 AI와 XAI로 진짜 AI가 되다

• 🔗 "텔레그램 협력, 금단 영역 넘은 거죠"…사이버 수사는 진화 중[베테랑경찰] 

• 🔗 [한국정보보호학회 칼럼] AI 모델 보안과 안전 그리고 신뢰 

• 2025 IEEE Transactions on Information Forensics and Security (IEEE TIFS) - “Amplifying Training Data Exposure through Fine-Tuning with Pseudo-Labeled Memberships” (Impact Factor: 8)

• 2025 Research in Attacks, Intrusions, and Defenses (RAID) - "Red-Teaming LLMs with Token Control Score: Efficient, Universal, and Transferable Jailbreaks" (BK, 정보과학회 우수학술대회)   

• 2025 International Conference on Computer Vision (ICCV) - "Multi-View Slot Attention Using Paraphrased Texts for Face Anti-Spoofing" (BK, 정보과학회 최우수학술대회) 

• 2025 World Conference on Information Security Applications (WISA) - "LeakGuard: Detecting and Mitigating Attribute Leakage in Fine-Tuned Diffusion Models"

• 2025 IEEE Internet of Things Journal (IEEE IoT Journal) - “Continuous Authentication for Secure and Seamless User-Avatar Integration in Multi-Device Metaverses” (Impact Factor: 8.9)

• 2025 IEEE Transactions on Services Computing (IEEE TSC) - “A Continuous Authentication Framework for Securing Metaverse Identities” (Impact Factor: 5.8)

• 2024 Artificial Intelligence and Security (AISec) – “Adversarial Feature Alignment: Balancing Robustness and Accuracy in Deep Learning via Adversarial Training” 

• 2024  International Conference on Information Security and Cryptology (ICISC) – “Enhancing Differential Fuzzing of Cryptographic Libraries with Sustainable Hybrid Fuzzing and Crypto-Specific Mutation” (Best Paper Award)

• 2024 International Symposium on Software Testing and Analysis (ISSTA) – “Fuzzing JavaScript Interpreters with Coverage-Guided Reinforcement Learning for LLM-based Mutation” (BK, 정보과학회 최우수학술대회)

• 2024 World Conference on Information Security Applications (WISA) – “Enhancing Robustness in NIDS via Coverage Guided Fuzzing and Adversarial Training” 

• 2024 Workshop on Security Implications of Deepfakes and Cheapfakes (WDC) – “On the Correlation Between Deepfake Detection Performance and Image Quality Metrics,” 

• 2024 보안뉴스 교수님 기고문 “생성형 AI와 딥페이크 그리고 가짜뉴스: 새로운 디지털 위협의 시대” 

• 2024 IEEE Access – “On the Impact of Deployment Errors in Location-based Key Predistribution Protocols for Wireless Sensor Networks” (Impact Factor: 3.6)

• 2024 IEEE Access – “Coexistence of Deepfake Defenses: Addressing the Poisoning Challenge”  (Impact Factor: 3.6)

• 2023 USENIX Security Symposium (USENIX Security) – “BoKASAN: Binary-only Kernel Address Sanitizer for Effective Kernel Fuzzing”  (BK, 정보과학회 최우수학술대회)