유엔이 인공지능(AI)의 발전 속도가 정부와 과학계의 대응 능력을 앞지르고 있다며, 적절한 규제가 마련되지 않을 경우 “파멸적인 피해”가 발생할 수 있다고 경고했다.
로이터에 따르면 유엔 산하 ‘AI에 관한 독립 국제과학패널’은 1일(현지시간) 공개한 예비 보고서에서 AI가 인간을 속이거나 스스로 판단하는 수준까지 발전할 가능성이 있으며, 결국 인간이 통제력을 잃을 위험도 배제할 수 없다고 밝혔다.
보고서는 AI 기술이 단기적으로는 에너지와 데이터 부족으로 성장 속도가 다소 둔화될 수 있지만, 장기적으로는 현실 세계의 다양한 업무를 스스로 수행하는 ‘AI 에이전트’ 시대로 빠르게 진입할 것으로 전망했다.
현재 AI는 이미 수학과 과학 분야에서 전문가 수준의 추론 능력을 보이고 있으며, 신약과 백신 개발 기간을 크게 단축하는 등 산업 전반에 혁신을 가져오고 있다.
반면 부작용도 빠르게 늘고 있다.
보고서는 AI가 허위정보 생성과 유포는 물론, 금융사기와 사이버 공격, 생물학적 위협 등에 악용될 가능성이 커지고 있다고 지적했다.
실제로 AI 기업 앤트로픽이 개발한 최신 모델 ‘미토스’는 범죄 조직이나 국가 차원의 사이버 공격에 악용될 우려가 제기돼 일반 공개가 제한된 사례도 소개됐다.
패널 공동의장인 요슈아 벤지오는 “AI의 능력이 과학계의 이해 수준과 정부의 대응 능력을 모두 앞서가고 있다”며 “현재 과학기술 수준으로는 AI가 스스로 또는 악의적인 사용자를 통해 파멸적인 피해를 일으키지 않을 것이라고 보장할 수 없다”고 경고했다.
안토니우 구테흐스 유엔 사무총장도 “세계는 이해하지 못하는 기술을 제대로 통제할 수 없다”며 각국 정부에 AI 규제 체계 마련을 서둘러야 한다고 촉구했다.
한편 유엔은 이날 AI의 안전한 활용과 국제 협력을 위해 ‘선한 AI를 위한 글로벌 위원회(AI for Good Global Commission)’를 공식 출범시켰다.
위원회는 각국 정부와 기업이 함께 AI 안전 기준과 국제 협력 방안을 마련하는 역할을 맡게 되며, 공동의장은 폴 카가메 르완다 대통령과 마크 베니오프 세일즈포스 최고경영자가 맡는다.
