챗GPT 개발사인 오픈AI가 악의적인 활동이 의심되는 북한과 중국 계정을 삭제했다고 21일 발표했다.
로이터통신에 따르면 오픈AI는 중국과 북한 국적을 지닌 사용자 일부가 정보 수집과 여론 형성 등 악의적인 목적으로 자사 기술을 사용했다고 판단했다고 설명했다.
오픈AI는 권위주의 정권이 인공지능 기술을 활용해 국내외에서 이 같은 사이버 작전을 벌이고 있다며, 이런 행위 또한 AI로 탐지했다고 부연했다.
일례로 문제의 계정들은 챗GPT가 미국을 깎아내리는 내용의 스페인어 기사를 생성하게 한 뒤, 중남미 국가의 주요 매체들이 이를 중국 기업의 필명으로 게재하도록 했다.
캄보디아에 본사를 둔 금융 사기 의심 계정은 오픈AI 기술을 이용해 사회관계망서비스(SNS) 엑스(X)와 페이스북 등 여러 플랫폼에서 번역을 하고 댓글을 생성했다.
다만 오픈AI는 이 같은 활동과 관련해 얼마나 많은 계정을 제거했는지, 언제부터 대응에 나섰는지 등 구체적인 설명은 하지 않았다.
오픈AI의 챗GPT는 세계에서 널리 쓰이는 챗봇이며 주간 활성 사용자 수가 최근 4억 명을 돌파했다. 미국 정부는 중국이 AI를 이용해 자국민을 억압하고 잘못된 정보를 퍼뜨리며 미국과 동맹국의 안보를 해친다는 의혹을 제기하고 있다.
