김새론 이후 '악플 관리' 재점화..."AI로 사전 통제"

[앵커]
최근 배우 김새론 씨가 안타깝게 숨진 가운데 악성 댓글 논란이 재점화하고 있는데요.

AI를 활용한 사전 감지 시스템을 통해 포털에서 악성 댓글을 차단하는 방안도 관심을 받고 있습니다.

이광연 기자가 보도합니다.

[기자]
미디어 학술지인 언론정보연구에 실린 '언어 사용과 의견 양극화'란 제목의 논문입니다.

지난 2022년부터 1년간 상대적으로 민감한 정치·사회 기사들에 달린 댓글을 분석한 결과입니다.

포털 뉴스에는 욕설과 비방을 포함하는 무례언어가 3천 건에 육박했고 유튜브 댓글은 절반 정도였습니다.

뉴스 유통의 통로가 주로 인터넷 포털이기 때문이라는 해석도 가능한데

최근 이른 나이에 세상을 떠난 김새론을 계기로 댓글 통제에 대한 목소리가 다시 높아지면서 AI를 활용한 사전 감지 시스템도 덩달아 관심입니다.

네이버와 카카오는 AI 감지 기술을 도입해 글자는 물론 이른바 '움짤(GIF)'까지 필터링하고 있고

해외 포털들도 공격성과 불쾌감을 수치화하거나 맥락을 분석해 악성 콘텐츠를 식별해 냅니다.

실제로 AI의 도움으로 제주항공 참사 당시 포털에서 사전 알림을 받은 언론사들이 댓글 제공 기능을 중단했고

지난 파리올림픽 때는 사전에 선수들을 겨냥한 악의적인 댓글 수천 건을 걸러낸 예도 있습니다.

미디어 전문가들은 최근 AI의 역할은 댓글의 숨겨진 의도까지 파악하는 수준이라고 설명합니다.

[한정훈 / K엔터테크대표 : 자연어 처리가 좀 더 자연스럽게 돼 가지고요. 숨겨진 의도를 파악하는 수준까지 올라왔거든요 욕설이나 비하나 혐오 같은 좀 차별적인 발언 같은 경우 이게 한번 확산하면 끝이잖아요. 사실 AI는 자동으로 이제 검증을 할 수 있기 때문에]

특히 악성 댓글을 통제하는 AI 기술을 고도화하기 위한 투자를 늘려 반복되는 사고를 막아야 한다는 지적도 나옵니다.

YTN 이광연입니다.


영상편집;김희정
디자인:이가은


YTN 이광연 (kylee@ytn.co.kr)