"이 사진에 뱀 있어?" 물었더니…챗GPT 소름 돋는 답변

A씨가 챗GPT에 질문하며 올린 사진 / 온라인 커뮤니티 갈무리

최근 한 온라인 커뮤니티에서 챗GPT의 오류라며 올라온 글이 화제다.

작성자 A씨가 한 온라인 커뮤니티에 '챗GPT는 환각이 아니라 고집임'이라는 제목으로 글을 올렸는데, 내용은 A씨와 챗GPT와 나눈 대화였다.

A씨는 챗GPT에게 나뭇가지와 낙엽이 뒤덮인 사진을 한 장 보여주며 "이 사진에 뱀이 있어?"라고 질문했더니, 의외로 챗GPT는 뱀이 있다고 답했다.

챗GPT는 '뱀처럼 보이는 물체가 있다'며 '이미지 중앙 아래쪽에서 약간 오른쪽에 있는 갈색 줄무늬 패턴이 뱀의 몸통처럼 보인다'고 설명했다.

이후 A씨가 붉은색으로 뱀의 위치를 표시해달라고 말하자, 챗GPT는 긴 동그라미가 표시된 사진을 보냈다.

챗GPT의 답변(위)과 챗GPT가 뱀 위치를 표시한 사진 / 온라인 커뮤니티 갈무리

사진을 자세히 보니 동그라미가 표시된 위치에 정말 뱀이 있었는데, 원본 사진과 비교해 보니 원본에는 없었던 뱀의 형상을 챗GPT가 그려 넣은 것이었다.

작성자는 '챗GPT는 없으면 만들어서라도 내가 맞다고 우긴다'며 글을 마무리했다.

그런데 A씨의 글이 각종 온라인 커뮤니티에서 화제가 된 후 실제로 해당 사진 속에 뱀이 있다는 주장이 나왔다.

한 누리꾼이 이 사진에 진짜 뱀이 있다며 표시해서 올렸다 / 온라인 커뮤니티 갈무리

사진을 고화질로 봤을 때 이미지 왼쪽 아래에 작고 얇은 뱀이 보이는데, 이건 우연히 인간이 뱀의 위치를 찾아낸 것일 뿐, 챗GPT가 보여준 뱀의 크기와 위치 등 대부분의 정보가 달랐다.

누리꾼 중 일부는 '챗GPT의 오류'를 지적하며, AI가 자신이 틀렸다는 것을 인지하지 못하고 결과를 과도하게 확신한다며 비판했다.

챗GPT는 대량의 데이터를 기반으로 학습된 통계적 모델로, 정답을 제공하기보다는 가장 그럴듯한 답을 예측해서 답변한다. 이 때문에 때때로 사실이 아닌 정보를 자연스럽게 만들어내기도 하고, 사용자는 이를 진짜로 믿을 위험이 있다.

전문가들 역시 생성형 AI가 불완전한 데이터나 잘못된 정보를 기반으로 답을 생성할 수 있기 때문에, 사실과 다를 수 있다며 계속해서 경고하고 있다.

YTN digital 류청희 (chee0909@ytn.co.kr)