로블록스 AI 연령 인증 시스템 도입 발표, 유저들 "이것도 망할 것 같다"

로블록스, AI 기반 연령 인증 시스템 도입 예고

로블록스가 7월 17일 새로운 안전 기능을 발표했다. AI 기술을 활용해 아이들이 특정 게임을 플레이할 수 있는 연령인지 판단하는 시스템을 도입한다는 내용이다. 이는 미성년자들의 게임 이용을 보다 체계적으로 관리하려는 시도로 보인다.

하지만 로블록스 커뮤니티 반응은 싸늘하다. 레딧에서 해당 소식이 공유되자마자 유저들의 우려 섞인 댓글이 쏟아졌다.

"이것도 망할 것 같다" - 유저들의 냉담한 반응

가장 많은 공감을 받은 댓글은 "이건 역효과를 낼 것 같다"(117개 추천)였다. 또 다른 유저는 "이거 완전 망할 것 같다"(54개 추천)라며 직설적으로 우려를 표했다.

특히 AI 기술 자체에 대한 회의적 시각도 드러났다. 한 유저는 "모든 것에 AI가 필요한 건 아니지 않나?"(99개 추천)라고 지적했다. 이에 대한 답글에서는 "AI 자체는 나쁘지 않다고 생각한다. 하지만 AI 조절자가 이미 엉망이라서 이 새로운 AI가 더 나을지 확신이 안 선다"(20개 추천)는 반응이 이어졌다.

기술적 한계와 차별 우려

더 심각한 문제는 기술적 한계다. 한 유저는 "이건 실패할 것이다. 특정 사진 인증은 어두운 피부를 가진 사람들에게 정확도가 떨어진다는 것이 입증됐다"(38개 추천)라며 AI 얼굴 인식 기술의 인종 차별 문제를 지적했다.

실제로 AI 얼굴 인식 기술은 백인 남성 위주로 학습된 데이터셋의 한계로 인해 여성이나 유색인종에 대한 정확도가 떨어진다는 연구 결과가 여러 차례 발표된 바 있다.

"나는 실제보다 어려 보인다" - 개인차 문제

또 다른 유저는 개인적 경험을 토대로 우려를 표했다. "나는 실제보다 어려 보인다. 20대인데 미성년자로 판단하면 어떡하지?"(30개 추천)라는 댓글은 AI 시스템이 개인의 외모적 특성을 정확히 판단할 수 있느냐는 근본적 의문을 제기했다.

로블록스 AI 조절 시스템의 전례

유저들의 회의적 반응에는 이유가 있다. 로블록스는 이미 AI 기반 콘텐츠 조절 시스템을 운영하고 있지만, 그 성능에 대한 불만이 지속적으로 제기되고 있다. 정상적인 콘텐츠를 부적절하다고 판단하거나, 반대로 문제가 있는 콘텐츠를 놓치는 경우가 빈번하다는 것이 유저들의 공통된 지적이다.

아동 보호와 기술적 현실 사이의 딜레마

로블록스가 AI 연령 인증 시스템을 도입하려는 배경에는 아동 보호에 대한 사회적 요구가 있다. 하지만 현재 AI 기술의 한계와 커뮤니티의 반응을 보면, 이 시스템이 실제로 효과적으로 작동할지는 미지수다.

특히 글로벌 플랫폼인 로블록스에서 다양한 인종과 연령대의 유저들을 대상으로 한 AI 판단 시스템이 공정하게 작동할 수 있을지는 큰 도전 과제가 될 것으로 보인다.

로블록스 측은 아직 구체적인 시행 시기나 세부 내용을 발표하지 않았지만, 유저들의 우려를 해소할 수 있는 방안을 마련해야 할 것으로 보인다.

원문 레딧 게시물: https://reddit.com/r/roblox/comments/1m26ifu/new_roblox_safety_feature_uses_ai_to_determine_if/