AD
■ 진행 : 윤재희 앵커
■ 출연 : 김명주 서울여대 정보보호학부 교수, 김자양 <뉴스UP> PD
* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기 바랍니다. 인용 시 [YTN 뉴스UP] 명시해주시기 바랍니다.
[앵커]
모바일 메신저 '텔레그램'을 이용한 각종 범죄가 잇따르고 있습니다. 범죄 온상으로 지적받는 텔레그램 실태 취재한 <뉴스UP> 김자양 PD,국제인공지능 윤리협회장 김명주 서울여대 정보보호학부 교수와 자세한 얘기 나눠보겠습니다. 어서 오십시오. 대규모 디지털 성범죄가 계속해서 발생하고 있습니다. 교수님께서는 국내에서 첫 인공지능 윤리가이드라인을 만들기도 하셨는데 최근에 이런 소식 들으면 어떠신가요?
[김명주]
윤리적인 사회는 모두가 가야 될 길인데 이 길이 참 멀다는 생각을 했습니다. 보면서 많이 안타깝다는 생각도 했고. 피해자들이 10대 여성들이기 때문에 답답한 마음이 많이 듭니다.
[앵커]
범죄 경로가 이번에도 텔레그램이거든요. 아무래도 강력한 보안성 때문일까요?
[김명주]
아마 그 부분이 범죄를 저지르는 사람들한테는 혹시 나중에 어떤 상황이 벌어질 경우에 본인들이 활동했던 게 증거물로 많이 쓰이잖아요. 그런데 텔레그램은 종단형 암호라고 해서 두 사람이 대화를 할 때 대화 내용들이 암호화되고 그리고 원칙적으로는 서버에 남지 않습니다. 본인들이 원하는 경우 외에는. 그런 부분들이 범죄에서 굉장히 매력적이죠.
[앵커]
그런데 텔레그램이 개발 당시에는 정치적인 중립성 그리고 표현의 자유를 위해서 개발된 거죠?
[김명주]
원래 러시아에서도 일부 보관됐다가 풀 수 있는 암호키를 달라고 했을 때 주지 않았고. 그래서 서방세계에 나와서 텔레그램을 시작한 건데 그 취지에서 보면 보통 수사기관이나 정부에서 키를 달라고 했을 때 여전히 주지 않습니다. 그러니까 그 이면에는 표현의 자유를 보장하기 위해서 우리는 중립적이다라는 비유를 하고 있죠.
[앵커]
앞서서 보안성에 대해서 잠깐 언급을 해 주셨습니다마는 얼마나 강한지도 궁금한 상황인데 서버에도 암호화된 메시지만 저장되고이걸 풀 수 있는 방법이 전혀 없습니까?
[김명주]
암호화된 부분들은 양쪽 사람들끼리 오갈 때는 암호화가 되기 때문에 중간에도 볼 수 없고요. 얘는 서버에 보관이 안 됩니다. 그런데 본인들의 PC나 휴대폰에는 보관되고 가끔씩 클라우드에 보관하는 기능들이 있는데. 이 클라우드가 전 세계에 흩어져 있고요. 역시 암호화돼서 저장돼 있고 그것을 풀려면 키가 있는데 그 키도 역시 흩어서 보관합니다. 그러다 보니까 이게 어디에 있는지, 어느 나라에 있는지 확실하게 구분이 안 되는 상황이죠.
[앵커]
서버 자체도 알 수 없는 상황이군요.
[김명주]
어디에 있는지 회사 외에는 잘 모릅니다.
[앵커]
알겠습니다. 뉴스업 제작진이 불법 성착취물을 공유하는 텔레그램 대화방에 들어가 봤는데요. 김자양 피디, 실태가 어떻던가요?
[김자양]
텔레그램 딥페이크 실태를 살펴보기 위해 직접 문제의 대화방에 들어가 봤습니다. 간단한 검색만으로 대화방을 찾을 수 있었는데요. 몇몇 대화방은 폐쇄됐지만 일부는 그대로 남아있고, 여전히 대화방마다 적게는 수백 명에서 수천 명이 참여 중인 걸 확인할 수 있었습니다. 지금 영상으로도 나가고 있는데요. 대화방 안의 모습은 충격적이었습니다. 이용자들은 자신이 아는 여성들뿐 아니라 SNS에서 퍼 온 여성들의 사진을 무차별적으로 유포하고 있었고요. 심지어 피해자들은 대다수가 10대 미성년자들로 보였습니다. 관련 그래픽 띄워주시면 좋겠는데요. 방 안에선 이렇게 지역과 학교 또 출생연도 별로, 소위 '소모임' 형식의 대화 그룹이 형성돼 있었습니다. 가장 어린 그룹은 2011년생으로 지금으로 치면 13~14살 중학생 정도인데, 이들의 신상이 공유되는 채팅글도 확인할 수 있었습니다. 더 끔찍한 건 대화방 참여자들이 이러한 사진을 가지고 만든 딥페이크 사진과 영상을 공유하며 성희롱을 일삼고 있었다는 점인데요. 말 그대로 실시간으로 성범죄가 이뤄지는 현장이었습니다.
[앵커]
텔레그램에 딥페이크 영상을 만들어주는 별도의 대화방도 있다고 해요.
[김자양]
그렇습니다. 텔레그램에는 딥페이크 불법 성착취물을 전문적으로 제작하는 대화방도 다수 존재하고 있었습니다. 간단한 검색만으로 찾을 수 있을 뿐 아니라앞서 설명 드린 '겹지방'엔 이러한 제작방을 홍보하는 글이 상당히 많이 게시돼 있는데요. 겹지방을 통해 제작방으로 이동하는 경로인 셈입니다. 지금 그래픽으로 제작 구조가 나가고 있을 텐데요. 방식은 처음엔 무료로 합성 이미지를 제공해준다며 유인한 뒤, 그 이후부터는 결제를 요구하는 시스템이었습니다. 누군가의 얼굴 사진을 전달하면, AI 기술로불법 합성물 제작하는 방식인 거죠. 메뉴판처럼 가격표도 나와 있었는데, 제가 살펴본 방은 딥페이크 음란물 1개당가격을 고작 200원 정도로 책정하고 있었습니다. 남의 얼굴을 활용한 음란물이 너무도 손쉽게 만들어지고 있는 현실인 겁니다.
[앵커]
교수님, 딥페이크 영상물 그리고 사진 제작이 점점 더 쉬워지고 또 그 영상의 퀄리티도 정교해지고 있는 상황인데. 악용을 방지할 수 있는 방법이 현재로서는 없는 건가요?
[김명주]
여러 가지 많이 고민을 했었는데 보통 딥페이크를 만드는 툴이라고 하죠. 여기에 보시라고 되어 있는데, 그런 툴들에 대해서 제재를 가하자는 생각도 이전부터 가지고 있었는데. 예를 들어서 그런 것들이 딥페이크 영상을 만들면 그 밑에, 이건 AI로 만든 가짜 영상입니다라고 꼬리표를 다는 거죠. 유럽연합에서는 최근에 AI법이 통과되면서 그런 조건들을 달았고요. 그런데 문제가 있는 부분들이 뭐냐 하면 큰 기업들은 그런 법을 지키겠지만 딥페이크를 만드는 프로그램 소스가 오픈됐습니다. 그래서 개인이 많이 다운로드를 받아가고 그다음에 개인이 설치해서 돌리는 경우들이 많이 있기 때문에 그런 법도 실제로는 실효성이 많이 없고. 최근에는 유통하는 부분에 있어서. 이게 플랫폼에서 유통되기 때문에 지금 같은 텔레그램 같은 데죠. 그런 텔레그램 같은 플랫폼 기업들이 모니터링을 해야 되는 거 아니냐. 왜냐하면 유통을 통해서 돈을 버는 기업이기 때문에 잘못된 부분들에 대해서 너희도 책임을 져야 되는 거 아니냐. 그래서 또 이에 대한 제재들이 요즘 나오고 있습니다.
[앵커]
구글 같은 AI 관련 기업들 같은 경우에는 워터마크 표식을 삽입하는 방법도 논의하고 있다고 하는데요.
[김명주]
스스로 본인들이 워터마크를 집어넣는 경우인데, 워터마크를 집어넣어도 이걸 없애주는 AI 프로그램들이 있습니다. 그리고 워터마크가 들어가면 표식들이 나타나기 때문에 그런 툴들은 잘 사용하지 않죠, 일반 범죄를 하는 사람들은. 그래서 피해서 다른 음지에서 만들어지는 프로그램을 많이 사용하고 있습니다.
[앵커]
굉장히 상황이 복잡한 것 같은데요. 또 봤더니, 실제 딥페이크 피해자 4명 가운데 3명이 청소년이다. 이런 조사 결과가 있어서 충격을 주고 있습니다. 아무래도 청소년들 어릴 때부터 영상에 접하는 그런 횟수가 많다 보니까 익숙해서 그런 것이다, 이렇게 봐도 될까요?
[김명주]
요즘 청소년 보통 알파세대라고 하잖아요. 태어날 때부터 터치스크린 만졌고 휴대폰 썼고 이랬기 때문에 어른들이 볼 때는 AI 도구가 굉장히 부담스러운데 이 아이들한테는 소프트웨어 중의 하나고요. 그다음에 장난감처럼 가지고 놀 수 있고. 또 사진이나 이런 것들을 올리기도 하지만 쉽게 구하기도 하고 그런 것들을 조작했을 때 또 주변에 있는 사람들한테 쉽게 퍼뜨리는데. 이게 어른들이 볼 때는 범죄다라고 생각하는데 아이들이 볼 때는 그냥 장난처럼 보이는 거죠.
[앵커]
범죄라고 인식을 못하는 거군요.
[김명주]
그래서 교육에 대한 부분들이 요즘 많이 부각되고 있습니다. 교육을 시켜야 되지 그냥 놔둬서는 안 되겠다는 생각을 하는 거죠.
[앵커]
말씀하신 교육 부분은 지금은 학교 현장에서 이뤄지지 않고 있는 건가요?
[김명주]
현재는 AI 교육도 시작 단계거든요. 그런데 AI 교육도 시작을 하지만 AI 교육이 끝난 다음에 윤리 교육을 할 게 아니라 윤리 교육이랑 AI 교육이 같이 병행돼야 되고. 심지어 어떤 부분은 AI가 지금처럼 일상화가 됐잖아요. 일상화된 상황에서는 기술 교육보다 앞서서 오히려 현상적인 윤리 교육이 먼저 있어야 될 것이라고 생각합니다.
[앵커]
딥페이크 대화방 뿐만 아니라 김자양 PD가 마약 판매하는 방도 있어서 그 방에도 들어가봤다고요?
[김자양]
그렇습니다. 하필 미성년자들 딥페이크 채팅 그룹 안에 마약 판매가 이뤄지는 링크가 있어서, 저희 제작진이 들어가 봤는데요. 겹지방과 마찬가지로 너무도 쉽게 진입이 가능했습니다. 해당 대화방에 들어가자 마약 종류별로 가격과 거래 방식 등이 상세하게 나와 있었고요. 제가 고객으로 위장해 말도 걸어 봤는데,운영자가 메시지를 읽었다는 표시가 뜨기도 했습니다. 이는 현재도 거래가 이뤄지고 있다고볼 수 있는 이유죠. 텔레그램은 누구나 쉽게 접근 가능하고, 보안이 뛰어나 많이 이용되는 메신저로알고 있는데요. 하지만 바로 이러한 특성 때문에 마약상들이활동하는 플랫폼으로도 쓰이고 있는 겁니다.
[앵커]
김자양 PD가 취재하는 과정에서 그런 불법행위를 막을 만한 장치를 경험한 건 없습니까?
[김자양]
이번 취재 과정에서 가장 우려스러운 점이 바로 그 부분이었습니다. 텔레그램을 접속하는 데까지 성인 인증을 비롯한 어떠한 검증 절차도 없었습니다. 미성년자들도 불법 대화방에 쉽게 접근할 수 있는 구조인 겁니다.무엇보다 눈에 띄는 건 '탈퇴한 계정'이었습니다. 텔레그램 특성 상 계정을 탈퇴하더라도 해당 계정이 남긴 자료는 그대로 남아 있는 건데요. 이렇게 대화방에 남아 있는 자료를 다른 이용자들이 계속해서 퍼 나를 수 있다는 게 딥페이크 확산 배경으로 작용한다고 볼 수 있는 겁니다. 게다가 대화방 이용자들도 이런 텔레그램의특성을 잘 아는 듯, 자신들이 절대 잡히지않을 거라 확신하는 모습이었습니다. 제가 들어간 방의 한 이용자는 경찰이 수사하더라도 텔레그램 지우고 휴대폰을 불태우면 그만이라며, "증거가 없어서 못 잡는다"라고 자신만만한 태도를 보이기도 했습니다.
[앵커]
교수님, 들으신 것처럼 이용자들이 절대 잡히지 않을 거라는 확신을 갖고 저런 범죄를 저지르고 있는 건데요. 이거 어떻게 보시나요?
[김명주]
이 부분들은 지난 사건들을 볼 때 일부는 사실이고요. 그래서 국가마다 고민을 하고 있어서 아무래도 이 텔레그램 자체의 기업에 대한 책무성을 강화시켜야겠다는 부분들이 있어서 엊그제 텔레그램의 CEO를 체포했죠. 프랑스에서 체포했고 그 체포한 이유가 저희와 비슷한 상황입니다. 아동 포르노라 이런 범죄 유통하는 데 있어서 아무렇게나 방치를 해 뒀다 하는 부분들이어서, 이 부분들은 근본적인 부분들이고요. 또 일부는 잠입수사라고 하죠. 그런 대화방에 수사관들이 들어가서 여러 가지 상황을 유도하는 부분들인데. 이 잠입수사나 위장수사 같은 경우는 우리나라가 아동 성폭력 이 부분에 대해서는 허용을 하고 있거든요, 수사특례로. 그래서 이런 경우도 경찰이 본격적으로 수사한다고 하니까 이런 방들에 들어가서 실질적으로 거래되고 있는 부분들을 체크를 해야 될 것 같습니다.
[앵커]
그런데 아무래도 수사를 하려면 텔레그램 서버 안에 들어가서 어떤 내용들이 있었는지, 증거확보도 중요할 텐데. 수사 요청을 하더라도 텔레그램에서 협조를 안 하겠다고 하면 강제할 방법은 없습니까?
[김명주]
현재로서는 없습니다. 그건 기업에서 하는 것이기 때문에 현재로서는 없고요. 그래서 우리나라도 그렇고 외국도 그렇고 플랫폼의 윤리성, 책무성에 대한 법을 제정했고요. 그래서 유럽연합 같은 경우도 디지털서비스법을 제정해서 아동들에게 피해를 주거나 디지털성범죄 관련된 부분들은 너희들이 찾아내고 저희들이 제거하는 부분들에 대한 책임을 져라. 이렇게 이야기를 했습니다. 그런데 최근에 디지털서비스법 같은 경우는 17개 기업들을 지적했고요. 2개 검색엔진을 지정했는데 거기에도 텔레그램이 들어가 있지 않습니다. 그래서 프랑스에서 적극적으로 나선 이유도 그런 것 중의 하나라고 보고 있습니다.
[앵커]
말씀하신 텔레그램 창업자가 체포되면서 텔레그램에서 그와 관련된 규제라든지 새로운 보안정책을 마련하는 계기가 될 수 있을까요?
[김명주]
압박을 굉장히 많이 할 건데. 처음에 텔레그램에 들어가면 텔레그램 특징이 나와 있는데. 국가정부기관이나 아니면 고용주로부터 개인정보를 우리는 보호하겠다라고 아예 천명을 했어요. 그렇기 때문에 기업의 성격이고요. 그래서 이 부분에 대해서는 아마 CEO를 체포해서 수사하는 과정 가운데서 모종의 거래가 있겠죠. 거래를 해서 어느 부분을 풀어줄 테니까 어느 정보를 달라 하는 부분이 있을 텐데. 그 부분이 과연 회사의 정체성까지 바꿀 정도가 될지는 지켜봐야 될 것 같습니다.
[앵커]
두로프 체포와 관련해서 표현의 자유를 억압하는 것이다라는 걸로 보는 시각도 있더라고요. 텔레그램이 표현의 자유의 상징인지 범죄의 온상인지, 다른 시각들이 있을 것 같아요.
[김명주]
미국하고 많이 비견이 되는데 미국 같은 경우는 보통 수정헌법 1조에 보면 표현의 자유가 보장돼 있고. 그래서 이전에도 통신품위법에 보면 통신에 있어서 상당한 윤리를 지켜야 되는데. 플랫폼에서 불법 콘텐츠가 거래되는 건 예외라고 예외조항을 놨습니다. 그게 표현의 자유를 보장하기 위한 거고. 그래서 미국에서는 상당 부분 플랫폼은 이런 범죄로부터 면책특권을 가지고 있고요. 그래서 트위터X죠, 일론 머스크도 이번에 텔레그램 체포한 사건에 대해서 이건 표현의 자유 침해다라고 이야기하는데. 나라마다 조금씩 결이 다른 것 같습니다.
[앵커]
딥페이크 성범죄 문제 심각하고 지금 정부도 대응을 마련하고 있는 상황인데 김자양 피디, 실제 텔레그램을 경험해 봤을 때 어떤 점이 가장 심각했고 어떤 점이 바뀌어야 된다고 느끼셨나요?
[김자양]
사실 텔레그램 딥페이크 문제는 지난 6월부터 YTN 팩트추적 팀에서 꾸준히 다룬 사안이었는데요. 최근에야 공론화됐다는 점이 아쉬웠고요. 또 겹지방과 비슷한 '지인 능욕방'은 이미 4년 전 'N번방 조주빈 사건' 때 드러났었죠. 당시 대화방 운영자들은 검거했지만, 텔레그램이란 메신저 자체가 지닌 문제가해결되지 못한 사이, 또 다른 피해가 발생하고 있다는 점이 충격이었습니다. 마지막으로 이러한 텔레그램 딥페이크 범죄가 온라인 상에서 그치지 않고 현실 범죄로 이어질 가능성도 커 보인다는 게 심각해 보였습니다. 일부는 지인의 주거지와 주민번호, 심지어 가족관계까지 자세한 신상 정보도게시하고 있었는데요. 현실에서 성범죄의 대상이 될 위험성 큰 이유입니다. 텔레그램 딥페이크 문제, 가상의 공간이란다른 세계에서 이뤄지는 범죄가 아니라 현실과 맞닿아 보였습니다.
[앵커]
우리나라의 경우 딥페이크 음란물 처벌에 대한 입법은 여전히 미비하다는 지적이 계속해서 있는 상황인데. 어떤 고민들이 필요할까요?
[김명주]
N번방 사건 4년 전이죠, 그때 성폭력처벌법을 고쳤습니다. 그래서 당시에 14조 2항을 추가했는데. 이게 딥페이크와 같은 일종의 허위영상물에 대해서 처벌할 수 있도록 돼 있습니다. 그런데 여기에 단서조건이 반포 등을 목적으로 할 때. 배포를 목적으로 허위영상물을 제작하는 경우만 처벌하도록 돼 있는데. 이게 같은 14조 안에 보면 사진으로 촬영하는 음란물 있잖아요. 이 경우에는 제작하는 것뿐만 아니라 배포뿐만 아니라 휴대만 하고 있고 본인이 보기만 해도 처벌할 수 있도록 그렇게 돼 있어서 일부 이것도 같은 결로 올려야 되는 게 아니냐. 그래서 배포, 반포의 목적뿐만 아니라 그냥 재미로 만드는 거, 이런 부분들도 가지고 있는 것도 처벌해야겠다는 여론들이 형성되고 있고요. 한편으로는 지나친 속박이지 않을까 하는 걱정도 많이 하고 있습니다.
[앵커]
잠깐 언급은 됐습니다마는 청소년들이 이런 범죄에 이용당하고 노출되지 않도록 교육적인 측면도 지금 이 시점에서 굉장히 중요할 것 같은데요.
[김명주]
중요합니다. 그래서 디지털윤리교육을 이전부터 많이 해 왔는데 최근에 기술이 너무 빨리 발전하고요. 기술이 발전하는 것만큼 어두운 면도 같이 들춰내면서 보완할 수 있는 부분들이 필요한데. 현재로서는 성장 쪽에 포커싱이 되어 있다 보니까 어두운 면들은 거의 방치돼 있고. 그래서 윤리 부분들이 상당히 많이 소외됐던 부분들이 사실인 것 같아요. 디지털윤리, AI윤리에 대한 부분들이 좀 더 강화되는 게 청소년들을 보호하는 데 있어서 1차적으로 중요하지 않을까 생각합니다.
[앵커]
알겠습니다. 두 분 말씀 여기까지 듣도록 하겠습니다. 김명주 서울여대 정보보호학부 교수, 김자양 피디와 함께했습니다. 말씀 감사합니다.
※ '당신의 제보가 뉴스가 됩니다'
[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] social@ytn.co.kr
[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]
■ 출연 : 김명주 서울여대 정보보호학부 교수, 김자양 <뉴스UP> PD
* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기 바랍니다. 인용 시 [YTN 뉴스UP] 명시해주시기 바랍니다.
[앵커]
모바일 메신저 '텔레그램'을 이용한 각종 범죄가 잇따르고 있습니다. 범죄 온상으로 지적받는 텔레그램 실태 취재한 <뉴스UP> 김자양 PD,국제인공지능 윤리협회장 김명주 서울여대 정보보호학부 교수와 자세한 얘기 나눠보겠습니다. 어서 오십시오. 대규모 디지털 성범죄가 계속해서 발생하고 있습니다. 교수님께서는 국내에서 첫 인공지능 윤리가이드라인을 만들기도 하셨는데 최근에 이런 소식 들으면 어떠신가요?
[김명주]
윤리적인 사회는 모두가 가야 될 길인데 이 길이 참 멀다는 생각을 했습니다. 보면서 많이 안타깝다는 생각도 했고. 피해자들이 10대 여성들이기 때문에 답답한 마음이 많이 듭니다.
[앵커]
범죄 경로가 이번에도 텔레그램이거든요. 아무래도 강력한 보안성 때문일까요?
[김명주]
아마 그 부분이 범죄를 저지르는 사람들한테는 혹시 나중에 어떤 상황이 벌어질 경우에 본인들이 활동했던 게 증거물로 많이 쓰이잖아요. 그런데 텔레그램은 종단형 암호라고 해서 두 사람이 대화를 할 때 대화 내용들이 암호화되고 그리고 원칙적으로는 서버에 남지 않습니다. 본인들이 원하는 경우 외에는. 그런 부분들이 범죄에서 굉장히 매력적이죠.
[앵커]
그런데 텔레그램이 개발 당시에는 정치적인 중립성 그리고 표현의 자유를 위해서 개발된 거죠?
[김명주]
원래 러시아에서도 일부 보관됐다가 풀 수 있는 암호키를 달라고 했을 때 주지 않았고. 그래서 서방세계에 나와서 텔레그램을 시작한 건데 그 취지에서 보면 보통 수사기관이나 정부에서 키를 달라고 했을 때 여전히 주지 않습니다. 그러니까 그 이면에는 표현의 자유를 보장하기 위해서 우리는 중립적이다라는 비유를 하고 있죠.
[앵커]
앞서서 보안성에 대해서 잠깐 언급을 해 주셨습니다마는 얼마나 강한지도 궁금한 상황인데 서버에도 암호화된 메시지만 저장되고이걸 풀 수 있는 방법이 전혀 없습니까?
[김명주]
암호화된 부분들은 양쪽 사람들끼리 오갈 때는 암호화가 되기 때문에 중간에도 볼 수 없고요. 얘는 서버에 보관이 안 됩니다. 그런데 본인들의 PC나 휴대폰에는 보관되고 가끔씩 클라우드에 보관하는 기능들이 있는데. 이 클라우드가 전 세계에 흩어져 있고요. 역시 암호화돼서 저장돼 있고 그것을 풀려면 키가 있는데 그 키도 역시 흩어서 보관합니다. 그러다 보니까 이게 어디에 있는지, 어느 나라에 있는지 확실하게 구분이 안 되는 상황이죠.
[앵커]
서버 자체도 알 수 없는 상황이군요.
[김명주]
어디에 있는지 회사 외에는 잘 모릅니다.
[앵커]
알겠습니다. 뉴스업 제작진이 불법 성착취물을 공유하는 텔레그램 대화방에 들어가 봤는데요. 김자양 피디, 실태가 어떻던가요?
[김자양]
텔레그램 딥페이크 실태를 살펴보기 위해 직접 문제의 대화방에 들어가 봤습니다. 간단한 검색만으로 대화방을 찾을 수 있었는데요. 몇몇 대화방은 폐쇄됐지만 일부는 그대로 남아있고, 여전히 대화방마다 적게는 수백 명에서 수천 명이 참여 중인 걸 확인할 수 있었습니다. 지금 영상으로도 나가고 있는데요. 대화방 안의 모습은 충격적이었습니다. 이용자들은 자신이 아는 여성들뿐 아니라 SNS에서 퍼 온 여성들의 사진을 무차별적으로 유포하고 있었고요. 심지어 피해자들은 대다수가 10대 미성년자들로 보였습니다. 관련 그래픽 띄워주시면 좋겠는데요. 방 안에선 이렇게 지역과 학교 또 출생연도 별로, 소위 '소모임' 형식의 대화 그룹이 형성돼 있었습니다. 가장 어린 그룹은 2011년생으로 지금으로 치면 13~14살 중학생 정도인데, 이들의 신상이 공유되는 채팅글도 확인할 수 있었습니다. 더 끔찍한 건 대화방 참여자들이 이러한 사진을 가지고 만든 딥페이크 사진과 영상을 공유하며 성희롱을 일삼고 있었다는 점인데요. 말 그대로 실시간으로 성범죄가 이뤄지는 현장이었습니다.
[앵커]
텔레그램에 딥페이크 영상을 만들어주는 별도의 대화방도 있다고 해요.
[김자양]
그렇습니다. 텔레그램에는 딥페이크 불법 성착취물을 전문적으로 제작하는 대화방도 다수 존재하고 있었습니다. 간단한 검색만으로 찾을 수 있을 뿐 아니라앞서 설명 드린 '겹지방'엔 이러한 제작방을 홍보하는 글이 상당히 많이 게시돼 있는데요. 겹지방을 통해 제작방으로 이동하는 경로인 셈입니다. 지금 그래픽으로 제작 구조가 나가고 있을 텐데요. 방식은 처음엔 무료로 합성 이미지를 제공해준다며 유인한 뒤, 그 이후부터는 결제를 요구하는 시스템이었습니다. 누군가의 얼굴 사진을 전달하면, AI 기술로불법 합성물 제작하는 방식인 거죠. 메뉴판처럼 가격표도 나와 있었는데, 제가 살펴본 방은 딥페이크 음란물 1개당가격을 고작 200원 정도로 책정하고 있었습니다. 남의 얼굴을 활용한 음란물이 너무도 손쉽게 만들어지고 있는 현실인 겁니다.
[앵커]
교수님, 딥페이크 영상물 그리고 사진 제작이 점점 더 쉬워지고 또 그 영상의 퀄리티도 정교해지고 있는 상황인데. 악용을 방지할 수 있는 방법이 현재로서는 없는 건가요?
[김명주]
여러 가지 많이 고민을 했었는데 보통 딥페이크를 만드는 툴이라고 하죠. 여기에 보시라고 되어 있는데, 그런 툴들에 대해서 제재를 가하자는 생각도 이전부터 가지고 있었는데. 예를 들어서 그런 것들이 딥페이크 영상을 만들면 그 밑에, 이건 AI로 만든 가짜 영상입니다라고 꼬리표를 다는 거죠. 유럽연합에서는 최근에 AI법이 통과되면서 그런 조건들을 달았고요. 그런데 문제가 있는 부분들이 뭐냐 하면 큰 기업들은 그런 법을 지키겠지만 딥페이크를 만드는 프로그램 소스가 오픈됐습니다. 그래서 개인이 많이 다운로드를 받아가고 그다음에 개인이 설치해서 돌리는 경우들이 많이 있기 때문에 그런 법도 실제로는 실효성이 많이 없고. 최근에는 유통하는 부분에 있어서. 이게 플랫폼에서 유통되기 때문에 지금 같은 텔레그램 같은 데죠. 그런 텔레그램 같은 플랫폼 기업들이 모니터링을 해야 되는 거 아니냐. 왜냐하면 유통을 통해서 돈을 버는 기업이기 때문에 잘못된 부분들에 대해서 너희도 책임을 져야 되는 거 아니냐. 그래서 또 이에 대한 제재들이 요즘 나오고 있습니다.
[앵커]
구글 같은 AI 관련 기업들 같은 경우에는 워터마크 표식을 삽입하는 방법도 논의하고 있다고 하는데요.
[김명주]
스스로 본인들이 워터마크를 집어넣는 경우인데, 워터마크를 집어넣어도 이걸 없애주는 AI 프로그램들이 있습니다. 그리고 워터마크가 들어가면 표식들이 나타나기 때문에 그런 툴들은 잘 사용하지 않죠, 일반 범죄를 하는 사람들은. 그래서 피해서 다른 음지에서 만들어지는 프로그램을 많이 사용하고 있습니다.
[앵커]
굉장히 상황이 복잡한 것 같은데요. 또 봤더니, 실제 딥페이크 피해자 4명 가운데 3명이 청소년이다. 이런 조사 결과가 있어서 충격을 주고 있습니다. 아무래도 청소년들 어릴 때부터 영상에 접하는 그런 횟수가 많다 보니까 익숙해서 그런 것이다, 이렇게 봐도 될까요?
[김명주]
요즘 청소년 보통 알파세대라고 하잖아요. 태어날 때부터 터치스크린 만졌고 휴대폰 썼고 이랬기 때문에 어른들이 볼 때는 AI 도구가 굉장히 부담스러운데 이 아이들한테는 소프트웨어 중의 하나고요. 그다음에 장난감처럼 가지고 놀 수 있고. 또 사진이나 이런 것들을 올리기도 하지만 쉽게 구하기도 하고 그런 것들을 조작했을 때 또 주변에 있는 사람들한테 쉽게 퍼뜨리는데. 이게 어른들이 볼 때는 범죄다라고 생각하는데 아이들이 볼 때는 그냥 장난처럼 보이는 거죠.
[앵커]
범죄라고 인식을 못하는 거군요.
[김명주]
그래서 교육에 대한 부분들이 요즘 많이 부각되고 있습니다. 교육을 시켜야 되지 그냥 놔둬서는 안 되겠다는 생각을 하는 거죠.
[앵커]
말씀하신 교육 부분은 지금은 학교 현장에서 이뤄지지 않고 있는 건가요?
[김명주]
현재는 AI 교육도 시작 단계거든요. 그런데 AI 교육도 시작을 하지만 AI 교육이 끝난 다음에 윤리 교육을 할 게 아니라 윤리 교육이랑 AI 교육이 같이 병행돼야 되고. 심지어 어떤 부분은 AI가 지금처럼 일상화가 됐잖아요. 일상화된 상황에서는 기술 교육보다 앞서서 오히려 현상적인 윤리 교육이 먼저 있어야 될 것이라고 생각합니다.
[앵커]
딥페이크 대화방 뿐만 아니라 김자양 PD가 마약 판매하는 방도 있어서 그 방에도 들어가봤다고요?
[김자양]
그렇습니다. 하필 미성년자들 딥페이크 채팅 그룹 안에 마약 판매가 이뤄지는 링크가 있어서, 저희 제작진이 들어가 봤는데요. 겹지방과 마찬가지로 너무도 쉽게 진입이 가능했습니다. 해당 대화방에 들어가자 마약 종류별로 가격과 거래 방식 등이 상세하게 나와 있었고요. 제가 고객으로 위장해 말도 걸어 봤는데,운영자가 메시지를 읽었다는 표시가 뜨기도 했습니다. 이는 현재도 거래가 이뤄지고 있다고볼 수 있는 이유죠. 텔레그램은 누구나 쉽게 접근 가능하고, 보안이 뛰어나 많이 이용되는 메신저로알고 있는데요. 하지만 바로 이러한 특성 때문에 마약상들이활동하는 플랫폼으로도 쓰이고 있는 겁니다.
[앵커]
김자양 PD가 취재하는 과정에서 그런 불법행위를 막을 만한 장치를 경험한 건 없습니까?
[김자양]
이번 취재 과정에서 가장 우려스러운 점이 바로 그 부분이었습니다. 텔레그램을 접속하는 데까지 성인 인증을 비롯한 어떠한 검증 절차도 없었습니다. 미성년자들도 불법 대화방에 쉽게 접근할 수 있는 구조인 겁니다.무엇보다 눈에 띄는 건 '탈퇴한 계정'이었습니다. 텔레그램 특성 상 계정을 탈퇴하더라도 해당 계정이 남긴 자료는 그대로 남아 있는 건데요. 이렇게 대화방에 남아 있는 자료를 다른 이용자들이 계속해서 퍼 나를 수 있다는 게 딥페이크 확산 배경으로 작용한다고 볼 수 있는 겁니다. 게다가 대화방 이용자들도 이런 텔레그램의특성을 잘 아는 듯, 자신들이 절대 잡히지않을 거라 확신하는 모습이었습니다. 제가 들어간 방의 한 이용자는 경찰이 수사하더라도 텔레그램 지우고 휴대폰을 불태우면 그만이라며, "증거가 없어서 못 잡는다"라고 자신만만한 태도를 보이기도 했습니다.
[앵커]
교수님, 들으신 것처럼 이용자들이 절대 잡히지 않을 거라는 확신을 갖고 저런 범죄를 저지르고 있는 건데요. 이거 어떻게 보시나요?
[김명주]
이 부분들은 지난 사건들을 볼 때 일부는 사실이고요. 그래서 국가마다 고민을 하고 있어서 아무래도 이 텔레그램 자체의 기업에 대한 책무성을 강화시켜야겠다는 부분들이 있어서 엊그제 텔레그램의 CEO를 체포했죠. 프랑스에서 체포했고 그 체포한 이유가 저희와 비슷한 상황입니다. 아동 포르노라 이런 범죄 유통하는 데 있어서 아무렇게나 방치를 해 뒀다 하는 부분들이어서, 이 부분들은 근본적인 부분들이고요. 또 일부는 잠입수사라고 하죠. 그런 대화방에 수사관들이 들어가서 여러 가지 상황을 유도하는 부분들인데. 이 잠입수사나 위장수사 같은 경우는 우리나라가 아동 성폭력 이 부분에 대해서는 허용을 하고 있거든요, 수사특례로. 그래서 이런 경우도 경찰이 본격적으로 수사한다고 하니까 이런 방들에 들어가서 실질적으로 거래되고 있는 부분들을 체크를 해야 될 것 같습니다.
[앵커]
그런데 아무래도 수사를 하려면 텔레그램 서버 안에 들어가서 어떤 내용들이 있었는지, 증거확보도 중요할 텐데. 수사 요청을 하더라도 텔레그램에서 협조를 안 하겠다고 하면 강제할 방법은 없습니까?
[김명주]
현재로서는 없습니다. 그건 기업에서 하는 것이기 때문에 현재로서는 없고요. 그래서 우리나라도 그렇고 외국도 그렇고 플랫폼의 윤리성, 책무성에 대한 법을 제정했고요. 그래서 유럽연합 같은 경우도 디지털서비스법을 제정해서 아동들에게 피해를 주거나 디지털성범죄 관련된 부분들은 너희들이 찾아내고 저희들이 제거하는 부분들에 대한 책임을 져라. 이렇게 이야기를 했습니다. 그런데 최근에 디지털서비스법 같은 경우는 17개 기업들을 지적했고요. 2개 검색엔진을 지정했는데 거기에도 텔레그램이 들어가 있지 않습니다. 그래서 프랑스에서 적극적으로 나선 이유도 그런 것 중의 하나라고 보고 있습니다.
[앵커]
말씀하신 텔레그램 창업자가 체포되면서 텔레그램에서 그와 관련된 규제라든지 새로운 보안정책을 마련하는 계기가 될 수 있을까요?
[김명주]
압박을 굉장히 많이 할 건데. 처음에 텔레그램에 들어가면 텔레그램 특징이 나와 있는데. 국가정부기관이나 아니면 고용주로부터 개인정보를 우리는 보호하겠다라고 아예 천명을 했어요. 그렇기 때문에 기업의 성격이고요. 그래서 이 부분에 대해서는 아마 CEO를 체포해서 수사하는 과정 가운데서 모종의 거래가 있겠죠. 거래를 해서 어느 부분을 풀어줄 테니까 어느 정보를 달라 하는 부분이 있을 텐데. 그 부분이 과연 회사의 정체성까지 바꿀 정도가 될지는 지켜봐야 될 것 같습니다.
[앵커]
두로프 체포와 관련해서 표현의 자유를 억압하는 것이다라는 걸로 보는 시각도 있더라고요. 텔레그램이 표현의 자유의 상징인지 범죄의 온상인지, 다른 시각들이 있을 것 같아요.
[김명주]
미국하고 많이 비견이 되는데 미국 같은 경우는 보통 수정헌법 1조에 보면 표현의 자유가 보장돼 있고. 그래서 이전에도 통신품위법에 보면 통신에 있어서 상당한 윤리를 지켜야 되는데. 플랫폼에서 불법 콘텐츠가 거래되는 건 예외라고 예외조항을 놨습니다. 그게 표현의 자유를 보장하기 위한 거고. 그래서 미국에서는 상당 부분 플랫폼은 이런 범죄로부터 면책특권을 가지고 있고요. 그래서 트위터X죠, 일론 머스크도 이번에 텔레그램 체포한 사건에 대해서 이건 표현의 자유 침해다라고 이야기하는데. 나라마다 조금씩 결이 다른 것 같습니다.
[앵커]
딥페이크 성범죄 문제 심각하고 지금 정부도 대응을 마련하고 있는 상황인데 김자양 피디, 실제 텔레그램을 경험해 봤을 때 어떤 점이 가장 심각했고 어떤 점이 바뀌어야 된다고 느끼셨나요?
[김자양]
사실 텔레그램 딥페이크 문제는 지난 6월부터 YTN 팩트추적 팀에서 꾸준히 다룬 사안이었는데요. 최근에야 공론화됐다는 점이 아쉬웠고요. 또 겹지방과 비슷한 '지인 능욕방'은 이미 4년 전 'N번방 조주빈 사건' 때 드러났었죠. 당시 대화방 운영자들은 검거했지만, 텔레그램이란 메신저 자체가 지닌 문제가해결되지 못한 사이, 또 다른 피해가 발생하고 있다는 점이 충격이었습니다. 마지막으로 이러한 텔레그램 딥페이크 범죄가 온라인 상에서 그치지 않고 현실 범죄로 이어질 가능성도 커 보인다는 게 심각해 보였습니다. 일부는 지인의 주거지와 주민번호, 심지어 가족관계까지 자세한 신상 정보도게시하고 있었는데요. 현실에서 성범죄의 대상이 될 위험성 큰 이유입니다. 텔레그램 딥페이크 문제, 가상의 공간이란다른 세계에서 이뤄지는 범죄가 아니라 현실과 맞닿아 보였습니다.
[앵커]
우리나라의 경우 딥페이크 음란물 처벌에 대한 입법은 여전히 미비하다는 지적이 계속해서 있는 상황인데. 어떤 고민들이 필요할까요?
[김명주]
N번방 사건 4년 전이죠, 그때 성폭력처벌법을 고쳤습니다. 그래서 당시에 14조 2항을 추가했는데. 이게 딥페이크와 같은 일종의 허위영상물에 대해서 처벌할 수 있도록 돼 있습니다. 그런데 여기에 단서조건이 반포 등을 목적으로 할 때. 배포를 목적으로 허위영상물을 제작하는 경우만 처벌하도록 돼 있는데. 이게 같은 14조 안에 보면 사진으로 촬영하는 음란물 있잖아요. 이 경우에는 제작하는 것뿐만 아니라 배포뿐만 아니라 휴대만 하고 있고 본인이 보기만 해도 처벌할 수 있도록 그렇게 돼 있어서 일부 이것도 같은 결로 올려야 되는 게 아니냐. 그래서 배포, 반포의 목적뿐만 아니라 그냥 재미로 만드는 거, 이런 부분들도 가지고 있는 것도 처벌해야겠다는 여론들이 형성되고 있고요. 한편으로는 지나친 속박이지 않을까 하는 걱정도 많이 하고 있습니다.
[앵커]
잠깐 언급은 됐습니다마는 청소년들이 이런 범죄에 이용당하고 노출되지 않도록 교육적인 측면도 지금 이 시점에서 굉장히 중요할 것 같은데요.
[김명주]
중요합니다. 그래서 디지털윤리교육을 이전부터 많이 해 왔는데 최근에 기술이 너무 빨리 발전하고요. 기술이 발전하는 것만큼 어두운 면도 같이 들춰내면서 보완할 수 있는 부분들이 필요한데. 현재로서는 성장 쪽에 포커싱이 되어 있다 보니까 어두운 면들은 거의 방치돼 있고. 그래서 윤리 부분들이 상당히 많이 소외됐던 부분들이 사실인 것 같아요. 디지털윤리, AI윤리에 대한 부분들이 좀 더 강화되는 게 청소년들을 보호하는 데 있어서 1차적으로 중요하지 않을까 생각합니다.
[앵커]
알겠습니다. 두 분 말씀 여기까지 듣도록 하겠습니다. 김명주 서울여대 정보보호학부 교수, 김자양 피디와 함께했습니다. 말씀 감사합니다.
※ '당신의 제보가 뉴스가 됩니다'
[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] social@ytn.co.kr
[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]
