| 연구목표 |
최종 목표 : ○ 데이터 및 인공지능 모델의 편향성을 파악하기 위한 공정정 개념 및 측도 연구 ○ 편향성 측정을 위한 시각화도구의 개발 및 산업영역의 적용을 구현 ○ 기술개발의 결과로 창출되는 결과물 - 편향성을 측정하기 위한 대용량 데이터셋의 구축 - 편향성을 측정하기 위한 기존연구의 결과 검증 - 편향성 및 공정성의 개념 정립을 위한 기본 연구 ... |
| 연구내용 |
○ 주관기관(한국과학기술원) - 편향성 검출을 위한 기존 데이터 셋의 확보 및 분석, ImageNet 등의 이미지 데이터, 분포가 불균형한 수치형 데이터 등 수백 개의(용량 기준 테라 단위) 데이터셋을 수집 - 성별/인종을 비롯한 보호정보에 따라 나타날 수 있는 편향성을 분석하는 기존 측도를 조사, 분석하고 요약함 - 데이터셋의 확보는 오픈 ... |
| 기대효과 |
○ 기술적 측면 - 데이터와 모델에서 나타난 편향성을 제거하는 기술을 통합하는 효과를 가져올 것으로 기대됨, 기존에는 전처리, 학습과정, 후처리로 나뉘어서 진행되어온 편향성 제거-온화 기술을 통합해서 요약할 수 있으며 이를 통해서 전체 흐름을 평가하는 측도 및 통합적 편향성 제거-완화 기술의 토대를 구축할 것으로 기대됨 - 인공지능의 공정성에 대한 기술개발... |
| 키워드 |
공정성,인공지능,인공지능,차별,편향성 완화 |