메가드라이브 검색했더니 충격적인 경고창이... 페이스북 AI 필터 오작동 논란

게임 콘솔 찾다가 뜬 황당한 경고창

2월 1일, 한 레딧 사용자가 페이스북에서 '메가드라이브'를 검색하던 중 예상치 못한 경고창을 마주했다. 세가의 레트로 게임기를 찾고 있던 평범한 검색이었지만, 페이스북은 "아동 성 학대는 불법입니다"라는 경고 메시지를 띄웠다. 해당 검색이 아동 성 착취물과 관련된 불법 활동과 연관될 수 있다며 신고 방법 안내와 지원 옵션을 제공했다.

이 황당한 상황을 담은 스크린샷이 r/insanefbmarketplace 커뮤니티에 올라오자 네티즌들 사이에서 큰 화제가 됐다.

유저들의 반응: "AI가 또 삽질했네"

오작동 vs 실제 문제

댓글창에서는 이 현상에 대한 다양한 분석이 쏟아졌다. 가장 많은 공감을 받은 댓글(125개 추천)에서는 실제로 '메가(Mega)'라는 파일 공유 서비스가 과거 불법 콘텐츠 유통에 악용된 사례가 있었다고 설명했다. "페이스북이 이런 검색어를 모니터링하는 건 실제로 플랫폼에서 관련 링크를 찾는 사람들이 있었기 때문일 것"이라고 분석했다.

프라이버시 vs 보안 딜레마

하지만 이에 대한 반박도 만만치 않았다. 한 유저는 "메가는 구글 드라이브와 똑같은 클라우드 서비스인데, 단지 사용자 프라이버시에 더 중점을 둘 뿐"이라며 강하게 반발했다(23개 추천). 그는 "프라이버시 중심 서비스들이 악용되는 건 안타깝지만, 그렇다고 프라이버시 자체를 범죄 도구로 낙인찍는 건 용납할 수 없다"고 주장했다.

특히 "정부나 기업들이 케임브리지 애널리티카 같은 사건을 벌이는 걸 막으려면 프라이버시가 더욱 중요하다"며, "미국 이민자가 해당 국가를 온라인에서 비판했다는 이유로 비자가 취소되는 사례도 있었다"고 구체적인 예시를 들었다.

AI 필터링 시스템의 한계 드러나

많은 유저들은 이번 사건을 AI 필터링 시스템의 오작동으로 규정했다. "AI가 또 랜덤한 단어들을 잘못 걸러내고 있다"는 댓글이 48개의 추천을 받았다.

한편, 일부 유저는 "혹시 'MAGA Drive'(트럼프 지지자들을 뜻하는 MAGA)로 착각한 건 아닐까"라는 농담 섞인 추측을 내놓기도 했다(24개 추천).

플랫폼 AI의 과잉 검열 논란 재점화

이번 사건은 대형 플랫폼들의 AI 기반 콘텐츠 모더레이션 시스템이 가진 근본적 한계를 다시 한 번 드러냈다. 아동 보호라는 중요한 목적을 위한 시스템이 정작 무고한 사용자들에게는 불편함을 안겨주고 있는 셈이다.

특히 레트로 게임 애호가들에게는 더욱 황당한 상황이다. 1980년대부터 사랑받아온 세가의 명작 콘솔을 찾는 평범한 검색이 이런 경고를 받게 될 줄 누가 예상했겠는가.

페이스북을 포함한 메타는 아직 이번 사건에 대한 공식 입장을 밝히지 않고 있다. 하지만 AI 시스템의 정확도 개선과 함께 오탐지에 대한 보완책 마련이 시급해 보인다.

출처: 레딧 원본 게시물