게임 논란 & 이슈

로블록스 AI 모더레이션 시스템, 페르시아 전통의상을 '테러리즘'으로 오인해 발칵

페르시아 전통 복장이 테러리즘?

10월 21일, 로블록스의 자동 모더레이션 시스템이 황당한 실수를 저질렀다. 한 유저가 페르시아 전통 의상을 입은 아바타를 만들었다가 '테러리즘' 혐의로 7일간 계정 정지를 당한 것이다.

해당 유저는 레딧에 "로블록스에서 페르시아 전통 의상을 입었다는 이유로 7일 정지를 당했는데, 사유가 '테러리즘'이라니… 도대체 뭔 소리냐"며 분노를 표했다. 다행히 이의 제기 후 2분 만에 정지가 해제됐지만, 이미 논란은 커진 상태다.

이 사건에 대한 로블록스 커뮤니티의 반응은 크게 세 가지로 나뉘었다.

정치적 배경 지적 - "CEO가 트럼프 취임식에 참석했다니까 놀랍지도 않다" (+45 추천) - 로블록스 경영진의 정치적 성향과 연결지어 해석하는 의견들이 나왔다

AI 시스템 오류 분석 - "AI가 히틀러로 착각한 것 같다. 어쨌든 수정됐으니 다행" (+36 추천) - 자동 모더레이션 시스템의 한계를 지적하는 목소리들이 주를 이뤘다

문화적 차별에 대한 우려 - "2025년에도 중동 남성은 콧수염 하나 기를 수 없나 💔" (+22 추천) - 문화적 편견과 인종차별적 요소에 대한 비판이 이어졌다

이번 사건은 로블록스 자동 모더레이션 시스템의 고질적인 문제점을 다시 한번 드러냈다. AI가 문화적 다양성을 이해하지 못하고 단순한 외형적 특징만으로 판단하면서 벌어진 해프닝이다.

특히 페르시아 전통 의상의 정교한 문양과 중동 지역 남성의 전형적인 외모(곱슬머리, 콧수염)를 조합한 아바타가 '테러리즘'으로 분류된 것은 명백한 문화적 편견이라는 지적이 나온다.

다행히 해당 유저의 이의 제기는 2분 만에 받아들여져 계정 정지가 해제됐다. 하지만 이런 일이 반복되지 않으려면 근본적인 시스템 개선이 필요하다는 목소리가 높다.

로블록스는 전 세계 수억 명의 유저를 보유한 글로벌 플랫폼이다. 다양한 문화와 전통을 존중하는 모더레이션 시스템 구축이 시급한 상황이다. AI 학습 데이터에 문화적 다양성을 반영하고, 인간 검수자의 역할을 확대하는 등의 개선책이 필요해 보인다.

2025년 현재도 이런 황당한 일이 벌어진다는 것 자체가 로블록스가 해결해야 할 숙제가 산적해 있음을 보여준다.

참고 링크: https://reddit.com/r/ROBLOXBans/comments/1oc220v/roblox_mods_straight_up_being_racist/