로블록스의 과도한 AI 검열, 또다시 논란

로블록스가 또다시 과도한 AI 검열 시스템으로 유저들의 비판을 받고 있다. 4월 12일 로블록스 도움 커뮤니티에 한 유저가 올린 게시물이 화제가 되고 있는데, 자신의 아바타가 '극히 미세한 피 표현' 때문에 차단당했다는 황당한 사연을 공유했다.

해당 유저는 "거의 눈에 보이지도 않을 정도로 작은 피 표현 때문에 아바타가 차단당했다"며 "이게 정말 에러인지, 아니면 로블록스가 진짜로 이걸 폭력적 콘텐츠로 판단한 건지 모르겠다"고 당황스러워했다.

"픽셀 하나만 있어도 차단당하는 게 로블록스"

이 게시물은 318개의 좋아요를 받으며 많은 유저들의 공감을 이끌어냈다. 댓글 중 79개의 좋아요를 받은 상위 댓글은 "로블록스와 AI의 조합이면 작은 픽셀 하나만 있어도 차단당하는 게 당연하다"며 씁쓸한 반응을 보였다.

이어서 "농담은 접어두고, 피나 상처 등이 없는 평범한 옷을 찾아서 입어야 차단당하지 않는다"고 조언하며, 현재 로블록스의 검열 시스템이 얼마나 예민하게 작동하고 있는지를 보여줬다.

AI 검열의 한계가 드러나는 순간

로블록스는 어린 유저들이 많은 플랫폼 특성상 콘텐츠 검열에 신경을 쓸 수밖에 없지만, 현재의 AI 검열 시스템은 오히려 과도한 차단으로 유저들의 불만을 사고 있다. 특히 시각적으로 거의 인식하기 어려운 수준의 표현까지 차단하면서 "AI가 사람보다 더 엄격하게 판단한다"는 비판이 나오고 있다.

로블록스의 이런 과민한 검열은 이번이 처음이 아니다. 그동안 수많은 유저들이 별다른 문제가 없어 보이는 콘텐츠가 갑자기 차단당하는 경험을 겪어왔다. 특히 창작 활동이 활발한 유저들 사이에서는 "어디까지가 허용 기준인지 알 수 없다"는 불만이 계속 제기되고 있다.

검열과 자유도 사이의 딜레마

로블록스는 전 세계 수억 명의 유저가 이용하는 거대 플랫폼이다. 특히 어린 유저들의 비율이 높아 안전한 환경 조성이 중요하다. 하지만 현재의 AI 검열 시스템은 너무 경직되어 있어 창작자들의 표현 자유를 지나치게 제약하고 있다는 지적이다.

유저들은 "안전한 환경은 필요하지만, 상식적인 수준에서 판단해야 하는 것 아니냐"며 "거의 보이지도 않는 표현까지 차단하는 건 과도하다"고 목소리를 높이고 있다.

로블록스 측에서는 이런 문제들을 개선하기 위해 검열 시스템을 지속적으로 업데이트하고 있다고 밝혔지만, 여전히 유저들이 체감하는 변화는 크지 않은 상황이다.

원본 게시물: https://reddit.com/r/RobloxHelp/comments/1sj6xyt/roblox_flagged_my_avatar/