미국에서 13세 소녀가 구글의 검색엔진 내장 인공지능(AI) 기능을 이용해 자살을 계획했다며 부모가 구글을 상대로 소송을 제기했다. 학교가 학생용 노트북에서 제미나이와 챗GPT 앱 접속을 차단했지만, 검색엔진의 ‘AI 모드’는 사용할 수 있었다는 게 부모 측 주장이다.
로이터통신 등에 따르면 소녀의 부모는 구글이 AI 기능을 학생들에게 확대하면서 위험성을 학부모와 학교에 충분히 알리지 않았다며 지난 2일 캘리포니아주 법원에 소송을 냈다. 소녀는 ‘엠마’라는 가명으로 소장에 등장한다. 구글은 사건을 연방법원으로 옮겼다.
소장에 따르면 학교는 학생들에게 지급한 크롬북에서 제미나이와 챗GPT 앱을 차단했지만, 구글 검색에 포함된 AI 모드는 이용할 수 있었다. 부모는 딸이 수개월간 AI와 자살 생각을 나누고 자신의 장례를 계획하는 문서까지 작성했다고 주장했다. 학교의 모니터링 프로그램이 해당 문서를 감지해 부모에게 알린 뒤 가족이 상황을 파악했다는 내용도 소장에 담겼다.
부모 측은 구글이 AI를 자사 제품 전반에 통합하면서 학부모나 학교에 충분한 안내를 하지 않았다고 주장했다. 이는 소장에 담긴 원고 측 주장으로, 법원에서 사실관계가 확정된 것은 아니다.
구글 대변인은 제기된 주장을 검토하고 있다고 밝혔다. 또 청소년이 도움이 필요할 때 신뢰할 수 있는 지원과 정보를 찾도록 의료 전문가 및 학계와 협력해 보호 기능을 마련해 왔다고 설명했다.
이번 소송은 학교 현장에서 학생들의 AI 이용을 어떻게 관리할지를 둘러싼 논쟁이 커지는 가운데 제기됐다. 구글은 이번 주 학교 학생 계정에서 제미나이를 기본적으로 비활성화하겠다고 밝혔지만, 학교가 구글 검색을 계속 제공하려면 AI 요약 등 일부 기능을 허용해야 할 수 있다고 로이터는 전했다.
