AI로 딥페이크 영상 탐지 기술 개발

국내 연구팀이 정밀도와 정확도를 크게 높여 딥페이크와 같은 영상의 위조와 변조를 잡아낼 수 있는 프로그램을 개발했다.

 

이흥규 한국과학기술원(KAIST) 전산학부 교수 연구팀은 영상 이미지 위변조 탐지 소프트웨어인 ‘카이캐치(KaiCatch)’ 업그레이드 버전(2.1)을 개발했다. 새로운 인공지능 구조와학습 방법론, 그리고 실험실 환경에서는 구하기 힘든 고급 변형 이미지 영상들을 사용해 영상 이미지 정밀도와 정확도를 크게 높였을 뿐 아니라 비디오 편집 변형도 탐지할 수 있다.

 

카이캐치 소프트웨어는 ‘이상 유형 분석 엔진’과 ‘이상 영역 추정 엔진’ 두 개의 인공지능 엔진으로 구성된다. 이상 유형 분석 엔진은 블러링, 노이즈, 크기 변화, 명암 대비 변화, 모핑, 리샘플링 등을 필수 변이로 정의해 이를 탐지하며 이상 영역 추정 엔진은 이미지 짜깁기, 잘라 붙이기, 복사 붙이기, 복사 이동 등을 탐지한다.

 

이번에 새로 개발한 기술은 이상 영역 추정 엔진으로, 기존 기술에서는 이상 영역 탐지 시 그레이 스케일(회색조)로 이상 유무를 탐지해 분석 신호의 표현력이 낮고 탐지 오류가 많아 위변조 여부 판정에 어려움이 많았다. 이번에 개발된 기술은 색상 정보와 주파수 정보를 함께 활용해 정밀도와 재현율이 크게 향상되고 변형 영역을 컬러 스케일로 표현함으로써 해당 영역의 이상 유무뿐만 아니라 위변조 여부도 더욱 명확하게 판별이 가능해졌다.

 

연구팀은 이번 연구에서 영상 생성 시 발생하는 흔적과 압축 시 발생하는 흔적 신호들을 함께 분석하기 위해 영상내 색상 정보와 주파수 정보를 모두 활용하는 접근 방법을 학계 처음으로 제시했다. 이번 개발 기술은 기존 기술보다 정밀도와 정확도를 크게 높여 위변조 탐지 기술의 기술 유용성을 일정 수준 확보할 수 있는 기반을 제공한다는 점에서 그 의미가 크다.

 

이 교수는 “이 기술을 통해 앞으로 영상 위변조 판단 여부가 어려운 경우가 많이 줄어들기를 기대한다”며 “특히 최근 CCTV 비디오 편집 여부에 대한 분쟁이 많아 크게 도움을 줄 수 있을 것으로 기대하며 향후에도 지속적으로 연구 개발해 취약점들을 보완해 나갈 계획”이라고 말했다. 이번 연구 결과는 컴퓨터 비전 분야 국제학술지인 ‘국제 컴퓨터 비전 저널(International Journal of Computer Vision)’ 2022년 5월 25일 자 온라인판에 실렸다.

 

현재 카이캐치 소프트웨어는 안드로이드 기반 휴대폰의 구글 플레이스토어에서 ‘카이캐치’를 검색하여 앱을 다운로드 받아 설치한 후, 영상 이미지들을 카이캐치에 업로드하면 위변조 여부를 간단하게 테스트해 볼 수 있다.