과제 상세정보
목록기계학습 모델 보안 역기능 취약점 자동 탐지 및 방어 기술 개발
작성자
관리자
조회수
222
등록일
2024-05-22
사업 정보
| 내역사업 | ICT 인프라·서비스 보호 강화 |
|---|
과제 기본정보
| 과제명 | 기계학습 모델 보안 역기능 취약점 자동 탐지 및 방어 기술 개발 | ||||
|---|---|---|---|---|---|
| 과제고유번호 | 1711152442 | ||||
| 부처명 | 과학기술정보통신부 | ||||
| 시행계획 내 사업명 | |||||
| 시행계획 내 사업유형 | 예산출처지역 | 대전광역시 | 사업수행지역 | 대전광역시 | |
| 계속/신규 과제구분 | 신규과제 | ||||
| 과제수행연도 | 2022 | 총연구기간 | 2020-04-01 ~ 2027-12-31 | 당해연도 연구기간 | 2022-01-01 ~ 2022-12-31 |
요약 정보
| 연구목표 | ◦ 최종목표 : 기계학습 모델 보안 역기능 취약점 자동 탐지 및 방어 기술 개발 - [분야1: System] 보안 역기능 취약점 자동 탐지 및 방어 도구 연구 • 보안을 위한 기계학습 모델을 대상으로 기존의 알려진 여러 가지 공격을 종합적으로 수행하여 자동으로 취약점을 탐지(Identification) 기술 연구 • 대상 모델에 대하여 성공한 공격들... | ||
|---|---|---|---|
| 연구내용 | o Membership Inference 공격/완화 기술 구현 및 워터마킹 공격 연구 - Membership Inference 공격 구현 ⦁훈련 데이터의 일부만을 이용하여 생성한 그림자 모델의 생성과 이를 이용한 Blackbox 공격 구현 ⦁검사 모델의 질의만을 통한 그림자 모델의 생성과 이를 이용한 Blackbox 공격 구현 - Membership I... | ||
| 기대효과 | o 현존하는 AI 모델의 공격 기법을 분류 및 정의하여 모델의 취약성을 분석할 수 있는 기술 개발 마련 - 기계학습 모델의 결함을 이용해 오류를 일으키는 현존 공격의 분류를 통한 공격기술의 대응 기술 개발 기여 - 분류된 공격에 필요한 사용자 입력의 정의 및 입력 방법에 대한 연구를 통한 취약성 완화 기술 개발 마련o Adversarial 공격에 대해 일반... | ||
| 키워드 | 기계학습,모델 보완,모델 취약점 탐지,설명가능한 모델 취약성,인증가능한 방어 | ||
위탁/공동여부 정보
| 단독연구 | 기업 | 대학 | 국공립(연)/출연(연) | 외국연구기관 | 기타 |
|---|---|---|---|---|---|
|
기술 정보
| 연구개발단계 | 응용연구 | 산업기술분류 | |
|---|---|---|---|
| 미래유망신기술(6T) | IT(정보기술) | 기술수명주기 | |
| 연구수행주체 | 학 | 과학기술표준분류 | 인공물 > 정보/통신 > 정보보호 > 서비스/응용보안 |
| 주력산업분류 | 적용분야 | 교통/정보통신/기타기반시설 | |
| 중점과학기술분류 | 과제유형 |
과제수행기관(업) 정보
| 과제수행기관(업) 정보 | 과제수행기관(업)명 | 한국과학기술원 | 사업자등록번호 | |
|---|---|---|---|---|
| 연구책임자 | 소속기관명 | 한국과학기술원 | 사업자등록번호 | |
| 최종학위 | 박사 | 최종학력전공 | 공학 |
사업비
| 국비 | 600,000,000 | 지방비(현금+현물) | 0 |
|---|---|---|---|
| 비고 | |||