"사진 합성이 놀이문화"...딥페이크 학습하는 AI

[앵커]
다른 사람의 사진을 합성·편집하는 딥페이크 범죄가 지난해 2배 넘게 늘었습니다.

갈수록 발전하는 생성형 AI 기술이 딥페이크 불법 동영상 제작에도 이용되면서 우려가 더욱 커지고 있습니다.

염혜원 기자입니다.

[기자]
지난해 대학교는 물론 초·중·고등학교까지 충격으로 몰아넣었던 딥페이크 불법 동영상.

사회적 문제로 떠오르면서 신고가 크게 늘어 1년 전보다 무려 227%나 많아졌습니다.

피해자는 96.6%가 여성, 특히 10대와 20대가 92.6%로 대부분을 차지했습니다.

딥페이크를 비롯한 불법 동영상 삭제 건수는 30만 건이 넘습니다.

불법 동영상 촬영·유포 등 다른 유형의 디지털 성범죄보다 딥페이크의 증가세는 무서울 정도로 빠릅니다.

생성형 AI의 발전과 맞물려 있기 때문입니다.

AI를 잘 다룰 줄 아는 10대, 심지어 그보다 어린 나이에도 사진 합성과 편집을 놀이문화처럼 향유한다는 겁니다.

최근 유행하는 챗GPT를 활용한 사진 변형처럼, 사진을 넣고 음란물로 변형을 주문하면 AI가 이를 학습하기도 합니다.

실제 챗GPT를 이용한 피해 사례도 접수되고 있습니다.

[박성혜 / 중앙디지털성범죄 피해자지원센터 삭제지원팀장 : 놀이 문화처럼 서로 친구도 합성하고 선생님도 합성하다가 이게 조금 더 이제 더 지나면 다른 신체 사진을 해서 심지어 그거를 또 딥페이크 제작을 하는 업체에 의뢰를 하는….]

생성형 AI를 이용하면서 조악했던 합성은 더욱 실제 같아지고 피해자의 이름과 나이 등 개인정보까지 포함되는 경우도 많아지고 있습니다.

전문가들은 온라인으로 친구를 만나고 연애도 하는 청소년, 청년층의 특성상 이러한 문제는 갈수록 커질 거로 예상하고 있습니다.

YTN 염혜원입니다.



영상편집:강은지

디자인:박유동



YTN 염혜원 (hyewon@ytn.co.kr)