게임 논란 & 이슈

로블록스 AI 모데레이션 먹통, 억울한 밴 당하면 반드시 이의제기하세요

로블록스 AI 모데레이션 시스템이 또 말썽을 부렸다

9월 2일, 로블록스 커뮤니티에서 AI 모데레이션 시스템의 오작동으로 인한 무차별 계정 정지 사태가 심각한 수준에 이르렀다는 보고가 올라왔다. 문제는 일부 악의적인 유저들이 AI 모데레이션 시스템의 허점을 악용해 다른 플레이어들을 고의로 밴 시키고 있다는 것이다.

한 유저는 "로블록스 유저들이 모데레이션 AI를 유도탄처럼 작동시키는 꼼수를 찾아냈다"며 "문제는 이를 악용하는 사람들이 늘고 있다는 점"이라고 지적했다. 특히 여성 아바타를 사용하는 유저나 비싼 아바타를 착용한 플레이어들이 주요 타겟이 되고 있는 상황이다.

이번 사태의 심각성은 정지 기준이 전혀 일관적이지 않다는 점에서 드러난다. 커뮤니티 보고에 따르면 ▲헐렁한 옷을 입은 아바타 ▲근육질 남성 아바타 ▲일반 여성 아바타 ▲단색 아바타 ▲심지어 기본 블록형 1.0 아바타까지 '성적 콘텐츠' 사유로 정지당하고 있다.

악용하는 유저들은 특정 키워드를 사용해 AI 시스템을 속이고 있으며, 실제 아바타의 외관과는 전혀 관계없이 정지 조치가 이뤄지고 있다. 이는 로블록스의 AI 모데레이션 시스템이 얼마나 허술한지를 여실히 보여주는 사례다.

이 같은 상황에서 로블록스 유저들에게는 몇 가지 대처 방안이 제시되고 있다.

먼저, 눈에 띄는 화려하거나 개성 있는 아바타 사용을 당분간 자제하는 것이 좋다. 특히 여성 아바타나 비싸 보이는 아바타는 악의적인 신고의 표적이 되기 쉽다.

또한 멀티플레이어 중심 게임, 특히 PvP 게임은 피하는 것이 현명하다. 게임에서 진 플레이어들이 화풀이로 허위 신고를 할 가능성이 높기 때문이다. 꼭 게임을 해야 한다면 협동 게임 위주로 플레이하고, 채팅보다는 디스코드 같은 외부 메신저를 활용하는 것이 안전하다.

다행히 이번 사태에는 희망적인 소식도 있다. 억울한 정지를 당한 유저들이 이의제기를 하면 실제로 해제되고 있다는 것이다.

한 유저는 "이의제기가 실제로 작동하고 있다"며 "아바타가 정말로 성적이지 않았다면 이의제기를 통해 높은 확률로 정지가 해제된다"고 전했다. 이의제기 시스템에는 더 잘 훈련된 AI나 실제 사람이 검토를 담당하는 것으로 보인다.

중요한 것은 정지 기간이 끝날 때까지 기다리지 말고 즉시 이의제기를 하는 것이다. 로블록스 정책상 정지 이력이 누적되면 더 심한 처벌을 받을 수 있기 때문이다.

이번 사태를 보고한 유저는 "왜 애초에 허위 신고를 방지할 때는 이렇게 효율적이지 못한지 모르겠다"며 "이게 바로 로블록스답다"고 꼬집었다.

실제로 로블록스의 모데레이션 시스템은 오랫동안 논란의 중심에 있었다. 정작 진짜 문제가 되는 콘텐츠는 방치하면서, 멀쩡한 콘텐츠를 과도하게 제재하는 일이 빈번했기 때문이다.

한 유저는 "두 번 정지당했지만 모두 이의제기를 통해 해제됐다"며 자신이 사용했던 아바타 스크린샷을 공개해 얼마나 황당한 정지였는지를 보여주기도 했다.

로블록스를 즐기는 유저들이라면 당분간은 조심스럽게 플레이하되, 억울한 정지를 당했다면 절대 포기하지 말고 끝까지 이의제기를 하는 것이 중요해 보인다. 결국 정당한 권리는 스스로 찾아야 하는 법이니까.