로블록스 AI 필터의 엉성한 판단력이 또 도마 위에

로블록스의 자동 필터링 시스템이 이번엔 공식 UGC(유저 제작 콘텐츠) 아이템까지 잘못 삭제해 커뮤니티가 들끓고 있다. 2월 8일(현지시간) 로블록스 커뮤니티에서는 인기 캐릭터 '1x1x1x1'의 공식 도미노 크라운이 갑작스럽게 삭제됐다는 제보가 올라왔다.

문제가 된 도미노 크라운은 로블록스의 유명한 '해커' 캐릭터인 1x1x1x1을 위해 특별히 제작된 공식 UGC 아이템이었다. 하지만 로블록스의 AI 필터가 이를 기존 아이템과 유사하다고 판단하며 일방적으로 삭제해버린 것으로 보인다.

"1x1x1x1이 대머리가 됐다고?!"

이 소식이 전해지자 유저들은 황당함과 분노를 감추지 못했다. 한 유저는 "헐 1x1x1x1을 대머리로 만들어버렸네?!"라며 당황스러워했고, 다른 유저들은 "이제 baldx1(대머리x1)이라고 불러야겠네"라며 자조적인 반응을 보였다. 심지어 "이참에 1egg처럼 baldx1도 스킨으로 만들어달라"는 우스갯소리까지 나왔다.

로블록스 필터의 고질적 문제

이번 사건은 로블록스 필터링 시스템의 고질적인 문제를 다시 한번 드러냈다. 한 유저는 "로블록스 필터가 진짜 엉망이다"라며 불만을 토로했다. 실제로 게임을 하던 중 갑자기 모자가 사라져서 당황했다는 경험담도 나왔다.

"게임하다가 죽었는데 갑자기 모자가 없어져서 뭐지? 싶었다"며 "다른 1x1x1x1 의상용으로 도미노 크라운이 하나 더 있긴 한데, 색깔이 똑같은 초록색이 아니라서 아쉽다"고 하소연했다.

AI의 과도한 판단

커뮤니티에서는 이번 삭제가 AI의 잘못된 판단에 의한 것이라는 분석이 나왔다. 한 유저는 "AI가 아마 기존 아이템과 너무 비슷하다고 생각해서 삭제한 것 같다"며 "전에 aceofapades 코스프레용으로 만든 래디컬 헬멧 같은 옛날 아이템 가짜 버전들도 로블록스가 삭제했었는데, 도미노 크라운이랑 비슷해 보여서 자동으로 제거된 것 같다"고 설명했다.

팬들조차 등 돌린 로블록스

이번 사건으로 로블록스에 대한 유저들의 불신은 더욱 깊어졌다. "AI 필터가 너무 엉성한 결정을 내려서 팬들조차 싫어하고 있다"는 댓글이 198개의 공감을 받으며 커뮤니티 전체의 분위기를 대변했다.

로블록스는 그동안 부적절한 콘텐츠를 걸러내기 위해 AI 기반 자동 필터링 시스템을 운영해왔다. 하지만 과도한 검열과 잘못된 판단으로 인해 정상적인 콘텐츠까지 삭제하는 사례가 빈발하면서 유저들의 원성이 높아지고 있다.

특히 이번처럼 공식 UGC 아이템까지 삭제하는 상황이 벌어지면서, 로블록스의 콘텐츠 관리 시스템 전반에 대한 재검토가 필요하다는 목소리가 커지고 있다.

로블록스 측은 아직 이번 사건에 대한 공식 입장을 발표하지 않았다. 하지만 유저들의 반발이 거세지면서 조만간 해명에 나설 것으로 예상된다.

출처: Reddit - r/FORSAKENROBLOX