시민 천 명 참가 'AI 레드팀 챌린지' 국내 처음 열려

사람들의 집단지성을 이용해 생성형 AI의 취약점을 발견하기 위한 '생성형 AI 레드팀 챌린지' 대회가 국내에서 처음으로 열렸습니다.

대회 참가자는 직업·연령에 상관없이 AI에 관심이 많은 지원자 천 명으로 구성됐는데, 교묘한 질문으로 AI를 공격해 잘못됐거나 부적절한 대답을 도출해 내는 방식으로 진행됐습니다.

공격 대상 AI는 네이버와 SKT 등 국내 4개 기업의 거대언어모델, LLM인데, 유해한 답변이나 편견과 차별, 악성코드 정보제공, 오답이나 모순적 답변도 포함됐습니다.

과기정통부는 이번 AI레드팀 챌린지가 지난해 8월 미국 빅테크들에 이어 이번이 두 번째 라며, 결과를 정리해 AI 가이드라인을 만들 계획이라고 밝혔습니다.



YTN 김기봉 (kgb@ytn.co.kr)