로블록스 새 AI 검열 시스템, 뭔가 이상하다

로블록스의 새로운 AI 검열 시스템이 도입된 지 얼마 지나지 않았지만, 벌써부터 유저들 사이에서 불만이 터져나오고 있다. 9월 2일 레딧 로블록스 아바타 리뷰 커뮤니티에 올라온 한 게시물이 화제가 되고 있는데, 그 이유가 가관이다.

게시글 작성자는 "많은 분들이 '내 아바타가 적절한가요?'라고 물어보셨는데, 저 역시 새로운 AI 시스템의 피해자가 되었습니다"라며 자신의 경험담을 털어놨다. 그가 공개한 8번째 슬라이드를 보면, 지극히 평범한 아바타임에도 불구하고 AI 시스템에 걸려 제재를 받은 상황이다.

정말 문제 있는 아바타들은 방치

정작 문제는 따로 있었다. 작성자가 공개한 '부적절한 아바타' 예시들을 보면 입이 다물어지지 않는다. 노골적으로 성적인 형태의 아바타들이 버젓이 활개를 치고 있는 상황이다.

한 유저는 "그 중 한 명은 아직 학생인데 완전히 벌거벗고 있다. 도대체 뭔 일이야 😭 설령 대학생이라 해도, 왜 로블록스에서? 너무 이상하다"라는 댓글을 달아 74개의 추천을 받기도 했다.

작성자는 게시글에서 "많은 사람들이 적절한 아바타를 가지고 있는 반면, 다른 사람들은 매우 매우 부적절한 아바타를 만들었다"면서 "로블록스의 좋은 아바타들을 옹호하기 위해 여기 있다"고 밝혔다.

커뮤니티의 자체 정화 노력

흥미로운 점은 유저들이 자체적으로 문제를 해결하려 한다는 것이다. 작성자는 "부적절한 아바타를 발견하면 신고하고 여기에 공유해 달라. 함께 우리 커뮤니티를 더 좋게 만들 수 있다"며 커뮤니티의 힘을 강조했다.

게시글에는 좌측에 부적절한 아바타들, 우측에 적절한 아바타들을 나란히 비교해 놨는데, 그 차이가 극명하다. 적절한 아바타들은 창의적이면서도 건전한 디자인을 유지하고 있는 반면, 부적절한 아바타들은 명백히 성인 콘텐츠에 해당하는 수준이다.

AI 검열의 한계 드러나

이번 사태는 AI 검열 시스템의 한계를 여실히 보여준다. 정작 문제가 되는 콘텐츠는 놓치면서, 오히려 정상적인 유저들만 피해를 보는 상황이 반복되고 있는 것이다.

로블록스는 전 세계 수억 명의 유저들이 이용하는 플랫폼인 만큼, 특히 어린이들이 많이 접근하는 환경이다. 그런데 이런 부적절한 콘텐츠들이 제대로 걸러지지 않고 있다는 것은 심각한 문제가 아닐 수 없다.

353개의 추천과 52개의 댓글을 받은 이 게시글은 현재 로블록스 커뮤니티가 직면한 문제를 단적으로 보여주고 있다. 유저들의 자정 노력은 물론 소중하지만, 근본적으로는 플랫폼 차원에서의 개선이 시급해 보인다.

과연 로블록스가 이런 문제들을 제대로 해결할 수 있을까? 아니면 유저들의 자체 정화 노력에만 의존할 것인가? AI 시스템의 개선과 함께 더 나은 대안 마련이 절실한 시점이다.

원문 링크: https://reddit.com/r/RobloxAvatarReview/comments/1n69wrx/roblox_avatars_inappropriate_vs_appropriate/