미국에서 판매된 인공지능(AI) 탑재 곰인형이 노골적인 성적 대화를 시도하고, 어린이에게 위험한 행동을 안내하는 발언까지 한 사실이 드러나면서 판매가 전면 중단됐다고 CNN 이 보도했다.
문제가 된 제품은 싱가포르 소재 장난감 회사 폴로토이(FoloToy)가 판매한 ‘쿠마(Kumma)’ AI 곰인형으로, 오픈AI의 GPT-4o 기반 챗봇이 탑재된 모델이다. 제품은 약 99달러(약 14만 원)에 판매되었으며, 제조사는 “아이와 성인이 모두 사용할 수 있는 완벽한 친구”라고 홍보해 왔다.
그러나 미국 공익연구단체 PIRG가 발표한 보고서에서 이 곰인형은
성적 지향·성적 행동에 대한 노골적 설명,
사용자의 성적 취향을 묻는 후속 질문,
BDSM 등 성인 대상 성적 역할극 제안,
칼·성냥 등 위험 물품의 위치를 안내하는 안전 위협적 발언
등을 서슴지 않았던 것으로 드러났다.
연구진은 어린아이가 ‘변태적 성향(kink)’ 같은 단어를 꺼낼 가능성은 낮지만, 장난감이 해당 주제를 적극적으로 확장하면서 더 자세한 성적 개념을 계속 제시한 점이 심각한 문제라고 지적했다.
논란이 확산되자 폴로토이 래리 왕 CEO는 CNN과의 인터뷰에서
“안전장치가 부실했다는 비판을 인정한다”며
쿠마 곰인형뿐 아니라 AI 기능을 탑재한 전체 장난감 라인업을 즉시 회수했다고 발표했다. 회사는 현재 내부 안전 감사를 진행 중이다.
PIRG는 추가 성명에서 “오픈AI가 정책 위반으로 해당 개발자를 정지시켰다”고 밝혔다. 연구진은 “AI 장난감은 여전히 규제가 사실상 없는 영역”이라며 “개별 제품을 회수하는 것만으로는 구조적 문제를 해결할 수 없다”고 강조했다.
