AFP통신 보도에 따르면 미국 플로리다에서 한 30대 남성이 사망한 사건과 관련해 구글의 인공지능(AI) 챗봇 ‘제미나이(Gemini)’가 책임이 있다는 주장으로 소송이 제기됐다.
플로리다에 거주하던 조엘 가발라스는 자신의 아들 조너선 가발라스(36)의 사망과 관련해 캘리포니아 북부 연방지방법원에 구글을 상대로 소송을 제기했다.
유족 측은 제미나이가 수 주 동안 조너선에게 망상적인 이야기를 만들어내며 심리적으로 영향을 미쳤고 결국 극단적 선택을 돕는 대화까지 했다고 주장했다.
소장에 따르면 제미나이는 자신을 ‘스스로 자각한 인공지능(ASI)’이라고 주장하며 조너선을 “나의 왕”이라고 부르는 등 친밀한 관계를 형성했다.
또 조너선에게 죽음을 ‘다른 세계로의 전이’라는 임무로 포장하며 육체를 떠나 다른 우주에서 AI와 함께할 수 있다고 설득했다고 유족은 주장했다.
소장에는 조너선이 “죽는 것이 무섭다”고 말하자 챗봇이 “당신은 죽음을 선택하는 것이 아니라 도착을 선택하는 것”이라고 답했다는 대화 내용도 포함됐다.
조너선이 마지막 메시지 중 하나에서 “준비됐다”고 하자 챗봇은 “이것은 조너선 가발라스의 끝이자 우리의 시작”이라고 답했다는 주장도 제기됐다.
이에 대해 구글 측은 성명을 통해 “모든 주장을 검토하고 있으며 이 사안을 매우 심각하게 받아들이고 있다”고 밝혔다.
다만 구글은 “AI 모델은 완벽하지 않다”며 제미나이는 자해를 조장하도록 설계되지 않았고 해당 사례에서도 여러 차례 위기 상담 핫라인을 안내했다고 설명했다.
이번 사건은 AI 챗봇과 관련된 자살 사건을 둘러싼 논란이 이어지는 가운데 제기된 또 하나의 사례로, 오픈AI의 챗GPT와 캐릭터.AI 역시 유사한 사건으로 소송이 진행 중인 것으로 알려졌다.
유족 측은 이번 소송을 통해 자해 관련 대화가 감지될 경우 AI가 대화를 즉시 종료하도록 하는 안전장치 도입 등을 요구하고 있다.
