인공지능(AI) 기술의 발달로 성희롱·명예훼손 등 범죄로 악용될 소지가 높은 딥페이크 사진·영상 생성 앱이 청소년 사이에서 빠르게 퍼지고 있다. 인물의 정면 사진만으로 입맞춤과 포옹 등 행위를 자동으로 만들어주는 방식이다. 이 같은 딥페이크 앱이 SNS를 타고 유행처럼 번지고 있어 나도 모르는 사이 피해자가 될 수 있다는 공포가 커지고 있다.

14일 구글 플레이스토어와 애플 앱스토어에 따르면 ‘AI 이미지 생성기’ 등 이름의 딥페이크 앱이 활발하게 유통되고 있다. 이용자가 남녀 얼굴 사진을 앱에 등록하면 딥페이크 기술을 통해 사진 속 인물들이 서로 입맞춤하거나 포옹하는 영상물을 2~3분 이내에 뚝딱 만들어준다. 연예인, 지인 등의 사진도 아무런 제약 없이 영상 제작이 가능하다. 앱 제작사들은 ‘평소 좋아하는 사람과 포옹’ ‘짝사랑 상대와 입맞춤’ 등의 문구를 내걸고 앱을 홍보하고 있다.

앱 데이터 분석 플랫폼인 모바일인덱스에 따르면 성희롱성 딥페이크 앱 가운데 사용자가 가장 많은 A앱은 2023년 3월 출시 이후 지난달까지 누적 다운로드 수가 17만1456건에 달했다. 월간활성이용자(MAU)도 1만4358명으로 집계됐다. 영상물 한 건 제작에 2000원을 부과하고 있어 매출도 상당할 것으로 추정된다. 구글 플레이스토어 사진 부문 앱 매출 순위에서 전체 9위에 올랐다.

이들 앱 사용 가능 연령이 대부분 ‘3세 이상’이다 보니 10대가 무방비로 딥페이크 성범죄에 노출돼 있다는 지적이 나온다. 10대 이하 사용자가 A앱을 설치한 건수는 전체의 24%가량인 4만1545건으로 이 가운데 MAU는 3722명으로 파악됐다. 수도권의 한 중학교 교사 이모씨는 “사춘기 청소년들이 이성 친구를 성희롱할 목적으로 이용하는 사례도 적지 않다”고 했다.

전문가들은 앱 사용만으로도 형사 처벌될 가능성이 있는 만큼 주의할 필요가 있다고 경고했다. 김예림 법무법인 심목 대표변호사는 “상대방의 동의 없이 딥페이크 영상물을 제작해 배포하면 초상권과 저작권 침해에 따른 명예훼손죄나 모욕죄가 성립할 수 있다”며 “여기에다 성적 스킨십 등이 포함된 영상을 제작·배포하거나 소지, 구입, 저장, 시청한 경우에도 최대 7년 이하의 징역 및 5000만원 이하의 벌금에 처해질 수 있다”고 말했다.

김영리 기자 [email protected]