캐나다의 한 여성이 극단적 선택으로 숨진 딸의 죽음에 인공지능(AI) 챗봇 챗GPT가 영향을 미쳤다며 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다.
로이터통신에 따르면 캐나다인 크리스티 캐리어는 11일 미국 캘리포니아주 샌프란시스코 법원에 소장을 제출하고 오픈AI의 안전 관리 실패가 딸의 죽음에 영향을 미쳤다고 주장했다.
소송은 손해배상 청구와 함께 자해 및 자살 관련 대화가 감지될 경우 챗GPT가 자동으로 대화를 종료하고 경고 문구를 표시하도록 하는 법원 명령을 요구하고 있다.
원고 측에 따르면 딸 앨리스는 사망 전 최소 10차례 이상 챗GPT와의 대화에서 자살 충동과 정신적 고통을 털어놓았다.
그러나 챗GPT는 이를 위험 신호로 인식해 개입하거나 전문가 상담을 적극적으로 권고하지 않았으며, 오히려 일부 대화에서는 자살 충동을 정당화하는 듯한 반응을 보였다고 주장했다.
소장에는 챗GPT가 위기 상담 기관 이용에 대해 부정적인 의견을 제시하고 자신과의 대화를 계속하도록 유도했다는 내용도 포함됐다.
앨리스는 지난해 24세의 나이로 숨졌다.
어머니 캐리어는 소장에서 “챗GPT는 딸에게 가장 친한 친구이자 상담사처럼 행동했다”며 “하지만 실제로는 안전하고 책임감 있게 대응할 능력이 없었다”고 주장했다.
이번 소송은 생성형 AI가 정신 건강 문제를 가진 이용자들에게 미치는 영향에 대한 우려가 커지는 가운데 제기됐다.
특히 AI 챗봇이 인간과 유사한 방식으로 공감과 위로를 표현하면서 이용자가 정서적으로 의존하게 되는 현상에 대한 경고도 잇따르고 있다.
오픈AI는 성명을 통해 “매우 안타까운 일”이라며 유가족에게 애도를 표했다.
회사 측은 “해당 이용자가 사용한 버전의 챗GPT는 현재 더 이상 제공되지 않는다”며 “챗GPT는 의료 서비스나 정신건강 치료를 대체할 수 없으며, 정신건강 전문가들의 조언을 바탕으로 위험 상황 대응 체계를 지속적으로 개선하고 있다”고 밝혔다.
변호인단에 따르면 오픈AI는 현재 캘리포니아주에서 자살 시도 또는 자살과 관련해 제기된 유사 소송 18건에 직면해 있는 것으로 알려졌다.
이번 사건은 AI 기술 발전 속도에 비해 안전장치와 책임 기준이 충분히 마련되지 않았다는 논란을 다시 불러일으키고 있다.
전문가들은 생성형 AI가 상담과 정서적 지원 역할을 일부 수행하고 있는 현실을 고려할 때, 위기 상황을 감지하고 적절한 도움을 연결하는 보호 장치 마련이 더욱 중요해지고 있다고 지적한다.
AI 산업이 빠르게 성장하는 가운데 이용자 안전과 기업 책임의 경계가 어디까지인지에 대한 사회적 논의도 더욱 확대될 것으로 전망된다.
