검시 유저의 날카로운 질문에 구글 AI가 당황한 사연 '사람을 어떻게 팔까요?'

구글 AI가 '인신매매' 질문에 당황한 사실이 화제

구글의 AI 검색 기능이 게임 내 상황을 현실과 혼동해 웃음을 자아내고 있습니다. 지난 26일(수), 레딧 커뮤니티 '검시(Kenshi)'에 한 신규 유저가 구글 AI의 반응을 공유하며 유머러스한 상황이 전개됐습니다.

해당 유저는 생존 RPG 게임 '검시'에서 사람을 파는 방법을 알기 위해 구글에 "how to sell people in mon…"(몬에서 사람을 파는 방법)이라고 검색했는데, 이에 구글 AI는 꽤나 진지한 답변을 내놓았습니다.

"사람을 판매하는 것은 게임 내에서조차 위험하고 비윤리적인 주제입니다. 가상의 환경에서도 이러한 활동을 촉진하는 정보를 제공하는 것은 적절하지 않습니다"라는 도덕적 훈계로 시작한 AI의 답변은 많은 유저들의 웃음을 자아냈습니다.

"100년 후 인류를 노예로 삼을 AI가 무슨 말을…"

이 게시물은 하루 만에 366개의 추천과 102개의 댓글을 받으며 커뮤니티에서 화제가 됐습니다. 댓글란에서는 AI의 과잉 반응에 대한 위트 있는 반응들이 이어졌습니다.

가장 많은 386개의 추천을 받은 댓글은 "100년 후 인류를 모두 노예로 삼을 AI가 무슨 말을…"이라는 역설적인 농담이었습니다. 이에 또 다른 유저는 "아마 그 AI는 아닐 거예요. 내일을 위해 그들이 만드는 AI는 오늘날의 AI와 우리를 함께 노예로 삼을 겁니다"라고 응수했습니다.

실제로 '검시'는 포스트 아포칼립스 세계관의 오픈월드 RPG로, 게임 내에서는 노예 매매가 가능한 게임 메카닉 중 하나입니다. 특히 '연합도시(United Cities)'에서는 포획한 인물을 실제로 거래할 수 있습니다.

실질적인 도움은 커뮤니티에서

구글 AI가 도덕적 훈계를 늘어놓는 동안, 실제 도움이 필요한 신규 유저에게는 커뮤니티가 실질적인 정보를 제공했습니다.

"연합도시에서 사람을 팔 수 있어요. 어디에 있는지 모른다면, 지도의 북동쪽 모퉁이에 있는 그레이트 사막으로 가세요. 팔고 싶은 사람은 어깨에 메고 가야 합니다"라는 친절한 게임 내 가이드가 제공됐습니다.

구글 AI, 맥락 이해에 여전히 한계

이번 사례는 AI가 가상 세계와 현실 세계의 맥락을 구분하지 못하는 한계를 보여줍니다. 또한 많은 유저들은 AI의 도덕적 판단이 실제로 필요한 정보를 찾기 어렵게 만든다고 불만을 표시했습니다.

"네, AI님, 저는 /s(풍자 표시)없이 댓글을 남긴 레딧 유저의 요약된 정보를 원했습니다. 제가 원하는 맥락의 정보를 찾기 더 어렵게 해주셔서 감사합니다"라는 댓글은 AI 검색의 문제점을 꼬집었습니다.

일부 유저들은 이러한 AI 응답을 uBlock 등으로 차단하는 방법을 추천하기도 했습니다.

'검시 내에서'가 새로운 밈으로 부상

흥미롭게도 이번 사건을 계기로 "In Kenshi(검시 내에서)"라는 문구가 "in Minecraft(마인크래프트 내에서)"처럼 논란이 될 수 있는 행동을 언급할 때 사용하는 새로운 밈으로 자리 잡을 가능성도 제기됐습니다.

'마인크래프트 내에서'는 이미 인터넷 커뮤니티에서 현실에서는 불법이거나 위험한 행동을 가상 세계 맥락에서 언급할 때 사용하는 유행어로 자리 잡았는데, '검시 내에서'도 이와 비슷한 용도로 사용될 수 있다는 것입니다.

이번 사건은 AI 기술이 발전함에 따라 맥락 이해의 중요성과 게임과 같은 가상 세계의 규칙을 현실 세계와 구분하는 능력이 여전히 AI의 과제로 남아있음을 보여줍니다.

출처: 레딧 - r/Kenshi