로블록스 AI 채팅 필터링 기능 도입에 유저들 발칵, "말더듬이로 만들어버리네"

AI가 대신 말해주는 시대가 왔다

로블록스가 새로운 AI 채팅 필터링 시스템을 도입하면서 유저들 사이에서 뜨거운 반응이 일고 있다. 지난 3월 30일 레딧에 올라온 한 게시물이 1,719개의 추천을 받으며 화제가 되고 있는데, 로블록스의 새로운 '메시지 재작성' 기능이 예상치 못한 부작용을 낳고 있기 때문이다.

문제가 된 스크린샷을 보면, 한 유저가 "h-hello"라고 인사를 했는데, 실제로는 전혀 다른 내용을 입력했다는 것이 드러났다. 시스템이 자동으로 "(rephrased)"라는 표시와 함께 원본 메시지를 순화해서 보여준 것이다.

"로블록스가 우리를 수줍음쟁이로 만들고 있다"

유저들의 반응은 대체로 당황스럽다는 쪽이다. 가장 많은 공감을 받은 댓글(734개 추천)에서는 "alan, we are so fucked"라고 말했는데 AI가 "alan, we are in so much trouble"로 바꿔버렸다는 경험담을 공유했다.

특히 250개의 추천을 받은 댓글에서는 "로블록스가 당신을 수줍음쟁이라고 착각하게 만들고 있다"며 비판했다. 실제로 한 유저는 "얼굴 인증까지 했는데도 이런 식으로 말이 바뀌니까 아예 채팅을 안 하게 됐다"고 토로했다.

황당한 재작성 사례들이 속출

유저들이 공유한 재작성 사례들을 보면 AI의 판단 기준이 상당히 애매하다는 것을 알 수 있다:

• "moth(나방)"라고 했는데 "butterfly(나비)"로 바뀜
• "odd(이상한)"가 "weird(이상한)"로 바뀜 - 뉘앙스가 완전히 다른데도
• "lmao(웃음)"가 "haha"로 바뀌어서 놀리는 것처럼 들리게 됨

한 유저는 "'odd'와 'weird'는 완전히 다른 뉘앙스인데 왜 바꾸는 거야?"라며 황당해했다.

기존 태그 시스템보다는 낫다는 의견도

물론 긍정적인 반응도 있다. 31개 추천을 받은 댓글에서는 "기존 태그(###) 시스템보다는 훨씬 낫다"고 평가했다. 기존에는 문제가 있다고 판단되는 단어들이 모두 ###으로 가려져서 대화 자체가 불가능한 경우가 많았기 때문이다.

하지만 35개 추천을 받은 답글에서는 "맞긴 한데, 재작성하는 방식이 너무 바보같다"며 아직 완성도가 떨어진다고 지적했다.

"AI가 무서워서 말더듬는다"

가장 재미있는 반응은 AI 자체의 '감정'을 의인화한 댓글들이다. 597개 추천을 받은 댓글에서 "왜 'h-hello'라고 말더듬게 만드냐? 이건 롤플레이 아니냐?"라고 묻자, 394개 추천을 받은 답글에서는 "아마 로블록스 AI가 긴장해서 그런 것 같다"고 농담했다.

67개 추천을 받은 댓글에서는 "'이런, 인간이 나를 조종할 수 있구나' 하고 AI가 놀랐을 것"이라며 웃음을 자아냈다.

검열인가 안전장치인가

이번 업데이트는 로블록스의 양면성을 보여준다. 아동 보호를 위한 안전장치라는 명분은 좋지만, 실제 구현에서는 과도한 검열이라는 비판을 피하기 어려워 보인다.

특히 83개 추천을 받은 댓글에서는 "이 업데이트는 '로블록스는 나쁘다'를 '로블록스는 좋다'로 바꿔버릴 것 같다"며 우려를 표했다. 실제로 "로블록스 검열 시스템을 고쳐야 한다"고 말하면 "로블록스 검열 시스템은 고칠 필요가 없다, 잘 되고 있다"로 바뀔 수도 있다는 것이다.

아직은 실험 단계

로블록스의 이번 AI 채팅 재작성 기능은 분명 혁신적인 시도다. 하지만 유저들의 반응을 보면 아직 완성도 측면에서 개선이 필요해 보인다. 특히 문맥을 이해하지 못하고 단순히 단어만 바꾸는 방식은 오히려 소통을 방해할 수 있다는 지적이 타당하다.

앞으로 로블록스가 이런 피드백을 어떻게 반영할지, 그리고 AI 기반 검열 시스템이 게임 내 소통 문화에 어떤 변화를 가져올지 지켜볼 필요가 있다.

원본 레딧 게시물: https://reddit.com/r/roblox/comments/1s7siqh/nice_update_roblox/