위키백과에 AI 출처 인용 논란 발칵, 편집자들 '신뢰성 위기' 우려

위키백과에 챗GPT 출처? 신뢰성 위기 경고등

지난 10월 15일, 위키백과에 충격적인 편집이 등장했다. '스톱 킬링 게임즈(Stop Killing Games)' 캠페인을 다룬 위키백과 문서에서 '챗GPT가 평가한 파이러트 소프트웨어의 발언'이라는 출처가 인용된 것이다. 이는 위키백과 역사상 AI 챗봇이 직접 출처로 명시된 첫 사례로 여겨지며, 온라인 커뮤니티에서 큰 파장을 일으키고 있다.

레딧 유저 한 명이 10월 17일 이 문제를 제기하며 "정말 무섭다. 위키백과 문서에서 AI 챗봇이 출처로 명시된 걸 처음 봤다"고 우려를 표했다. 이 게시물은 하루 만에 1만 6천 개 이상의 추천을 받으며 뜨거운 관심을 끌었다.

유저들의 반응: "위키백과의 신뢰성 위기"

긍정적 대응책

• "이미 수정됐다" (+1840 추천): 다수 유저들이 해당 편집이 이미 되돌려졌다고 확인했다. 한 유저는 "편집 기록을 확인해보니 15일에 추가됐다가 이틀 만에 삭제됐다"고 밝혔다.
• "위키백과 편집자들의 품질관리" (+751 추천): "위키백과 편집자들은 정확성에 대해 광신적이다. 며칠 내로 사라질 것"이라는 의견이 많은 지지를 받았다.
• "규칙 위반" (+66 추천): 여러 유저들이 AI를 출처로 인용하는 것이 위키백과 규칙에 명백히 위배된다고 지적했다.

우려의 목소리

• "링크 썩음 현상" (+3049 추천): "위키백과가 이미 걱정스러운 상황이다. 링크 썩음 때문에 내가 읽는 문서의 90%는 사실상 제대로 된 출처가 없다"는 의견이 최고 추천을 받았다.
• "신뢰성 후퇴" (+1756 추천): "위키백과가 신뢰할 수 없고 연구 목적으로 부적절하다고 비판받던 과거로 돌아갈 위험이 있다"는 경고가 나왔다.
• "표준의 하락" (+124 추천): "편집자들이 AI를 '출처'로 고려한다는 사실 자체가 얼마나 표준이 떨어졌는지 보여준다"는 날카로운 비판도 제기됐다.

과거 사례로 본 위키백과의 취약점

유저들은 위키백과의 신뢰성 문제를 보여주는 과거 사례들을 언급했다:

• 에이지 오브 엠파이어 가짜 유닛: 위키백과 트롤이 만든 완전히 가짜인 배 유닛이 게임에 실제로 추가되어 10년 이상 아무도 알아차리지 못했던 사건
• 스코틀랜드어 위키백과 조작: 13세 트롤이 스코틀랜드어 위키백과 전체를 영어를 우스꽝스러운 스코틀랜드 억양으로 바꿔 쓴 가짜 글로 가득 채운 사건

AI와 위키백과의 미래

현재 대응 상황

위키백과는 이미 AI 생성 콘텐츠에 대한 대응책을 마련하고 있다. 한 유저가 소개한 '위키백과: AI 정리 프로젝트(Wikipedia:WikiProject AI Cleanup)'는 AI로 작성된 문서들을 찾아 삭제하는 작업을 진행 중이다.

역설적 해결책

"AI 쓰레기와 싸우려면 AI를 써야 한다"는 의견도 제기됐다. 악의적 행위자들이 AI를 이용해 쏟아내는 가짜 정보의 양이 인간 관리자들이 수동으로 처리할 수 있는 범위를 넘어서고 있다는 지적이다.

올바른 AI 활용법

한 유저는 건설적인 대안을 제시했다: "AI 자체는 괜찮지만, LLM을 출처로 인용하는 건 순전한 바보짓이다. 차라리 LLM에게 출처를 요청하고, 그 출처들이 실제로 존재하는지 확인한 뒤 그것들을 실제 출처로 인용하는 게 100배는 나을 것이다."

결론: 경계와 주의가 필요한 시점

이번 사건은 단순한 편집 실수를 넘어 정보의 신뢰성에 대한 근본적인 문제를 제기한다. 위키백과가 여전히 강력한 품질관리 시스템을 갖추고 있지만, AI 시대에 맞는 새로운 대응 방안이 절실하다는 점을 보여준다.

무엇보다 이번 논란은 사용자들이 정보를 받아들일 때 더욱 비판적인 시각을 가져야 한다는 교훈을 남겼다. AI가 일상화된 시대, 우리 모두가 정보의 진위를 가려내는 능력을 기를 때다.

출처: Reddit 원문 보기