중국 빅테크 기업 텐센트의 인공지능(AI) 서비스가 사용자와의 대화 도중 욕설을 포함한 이미지를 생성해 논란이 일었다. 회사 측은 “비정상적인 결과”라며 공식 사과했다.
26일 중국 현지 매체 보도에 따르면, 산시성 시안에 거주하는 한 변호사는 설날을 앞두고 텐센트의 생성형 AI 서비스 Tencent의 ‘위안바오(元宝)’를 이용해 설 인사 이미지를 제작해달라고 요청했다.
사용자는 여러 차례 디자인 수정을 요구하며 결과물에 대해 불만을 표시했고, 이후 AI가 욕설이 포함된 문구를 삽입한 이미지를 생성해 제공하면서 문제가 불거졌다.
논란이 확산되자 텐센트 측은 “여러 차례 대화를 처리하는 과정에서 모델이 비정상적인 출력을 했다”며 “관련 문제를 긴급 수정하고 사용자 경험을 최적화했다”고 밝혔다. 또한 사용자에게 정중히 사과했다고 덧붙였다.
위안바오 측은 콘텐츠 필터링 메커니즘을 강화하고, 욕설 등 부적절한 출력에 대해 기술팀이 직접 대응할 수 있는 채널을 구축하겠다고 설명했다.
중국 내 AI 경쟁이 치열해지는 가운데 이번 사건은 생성형 AI의 윤리적 통제와 정서적 대응 능력에 대한 문제를 다시 부각시켰다. 일각에서는 기술 발전 속도에 걸맞은 안전 장치와 윤리 기준 정립이 시급하다는 지적이 나온다.
