| 연구목표 |
◦ 최종목표 : 기계학습 모델 보안 역기능 취약점 자동 탐지 및 방어 기술 개발 - [분야1: System] 보안 역기능 취약점 자동 탐지 및 방어 도구 연구 • 보안을 위한 기계학습 모델을 대상으로 기존의 알려진 여러 가지 공격을 종합적으로 수행하여 자동으로 취약점을 탐지(Identification) 기술 연구 • 대상 모델에 대하여 성공한 공격들... |
| 연구내용 |
o 기계학습 모델 취약점 탐지/완화/보정 도구 설계 - 모델의 결함을 이용해 오류를 일으키는 현존하는 Adversarial 공격의 분류 ⦁현존하는 targeted Evasion 공격 연구들의 조사 및 분류: FGSM, JSMA, Calini&Wagner, Model Differential Testing [Deep Explorer], Fuzzing, 모델 ... |
| 기대효과 |
o 현존하는 AI 모델의 공격 기법을 분류 및 정의하여 모델의 취약성을 분석할 수 있는 기술 개발 마련 - 기계학습 모델의 결함을 이용해 오류를 일으키는 현존 공격의 분류를 통한 공격기술의 대응 기술 개발 기여 - 분류된 공격에 필요한 사용자 입력의 정의 및 입력 방법에 대한 연구를 통한 취약성 완화 기술 개발 마련o Adversarial 공격에 대해 일반... |
| 키워드 |
기계학습,모델 보완,모델 취약점 탐지,설명가능한 모델 취약성,인증가능한 방어 |