뛰는 '보이스피싱' 위에 나는 'AI'...첨단 예방기술 눈길

[앵커]
인공지능으로 사람 목소리를 복제하는 건 이제 낯설지 않은 기술입니다.

첨단 기술이 보이스 피싱 같은 범죄에 악용될 우려가 커지면서, 통신업계도 AI 판독 서비스를 제공하는 등 대응을 강화하고 있습니다.

김태민 기자의 보도입니다.

[기자]
LG유플러스가 최근 개발한 딥페이크 음성 감지 기술입니다.

기존 음성 자료를 합성해 만든 가짜 목소리와 실제 사람 목소리를 판별할 수 있습니다.

'딥페이크로 만든 제 목소리입니다.'

얼핏 들어선 구분이 쉽지 않은데요, 감지 기술로 실제 목소리와 한 번 비교해보겠습니다.

'이 계좌로 돈 좀 보내줘' / '이 계좌로 돈 좀 보내줘'

주파수 대역을 실시간 분석해 미세한 차이를 찾아내는 원리로, 조만간 상용화를 앞두고 있습니다.

[박지웅 / LG 유플러스 스피치기술팀장 : 한, 두 문장 정도만 있으면 그 목소리로 딥페이크 AI 보이스를 만들 수 있으며 본인의 신원을 속이는 그런 범죄에 악용될 수 있습니다. 그러한 범죄를 예방하기 위해 '안티스푸핑' 기술 개발을 완료했습니다.]

온라인에서 활동하는 사기 범죄자의 수법을 인공지능이 스스로 학습하는 기술도 등장했습니다.

피해자로 위장한 인공지능이 온라인에서 활동하는 범죄자와 채팅을 나누며 정보를 수집한 뒤, 역으로 범죄 예방에 활용하는 방식입니다.

SK텔레콤은 이 기술로 올해 CES 사이버 보안 부문에서 최고혁신상을 받았습니다.

[이지운 / SKT 사이버보안 AI 개발팀장 : AI를 적극적으로 활용해서 사기 행위에 대해서 적극적으로 대응했다는 점이 있고요, 사람이 단순대응하는 부분을 최소화할 수 있고 보안 체계를 더욱 고도화할 수 있다고 생각합니다.]

음성인식과 언어처리 기술로 보이스 피싱 범죄에 자주 쓰이는 단어를 탐지해 경고하는 기술도 등장했습니다.

또 통화 중에 보이스피싱 범죄 전력이 있는 목소리가 탐지되면 이용자에게 알려주는 서비스도 출시를 앞두고 있습니다.

[김수영 / KT 고객인식개선팀장 : KT는 다년간 온디바이스 기반의 LLM(대규모 언어모델) AI 기술을 많이 연구해왔습니다. 음성인식 모델에 대해서 문맥 기반으로 적용한 것이고요….]

날이 갈수록 교묘해지는 첨단 범죄에 맞서, 통신사들의 대응 기술도 진화를 거듭하고 있습니다.

YTN 김태민입니다.



YTN 김태민 (tmkim@ytn.co.kr)