오픈AI와 구글, 앤트로픽 등 세계 주요 인공지능(AI) 기업들이 새로운 최첨단 AI 모델을 일반에 공개하기 전에 성능과 위험성을 평가하는 업계 자율규제기구 설립을 논의하고 있다.
AFP통신 등에 따르면 오픈AI는 AI 업계의 공통 안전기준을 마련하고 이를 검증할 표준기구를 만드는 방안을 구글, 앤트로픽과 논의하고 있다고 밝혔다.
구상은 데미스 허사비스 구글 딥마인드 공동창업자가 지난 7월 내놓은 제안에서 시작됐다.
허사비스는 미국 증권업계의 자율규제기관인 금융산업규제국(FINRA)과 유사한 방식으로 가장 강력한 ‘최전선 AI(Frontier AI)’ 모델을 일반에 공개하기 전에 안전성을 독립적으로 평가하는 기구를 만들자고 제안했다.
초기에는 AI 기업들이 새로운 모델을 출시하기 최대 30일 전에 자발적으로 기구에 제출해 안전성 검사를 받는 방식이 거론되고 있다.
향후 평가 시스템의 신뢰성이 확보되면 미국 시장에서 최첨단 AI 모델을 출시하기 전에 안전성 심사를 의무적으로 통과하도록 제도화하는 방안도 검토할 수 있다는 구상이다.
기구 운영비는 AI 기업들이 부담하되 평가 자체는 독립적인 기술 전문가들이 맡는 방안이 논의되고 있다. 최첨단 AI를 제대로 시험하려면 세계 최고 수준의 전문인력뿐 아니라 막대한 컴퓨팅 자원이 필요하다는 이유다.
오픈AI와 앤트로픽, 구글 관계자들은 최근까지 실무그룹 형태로 논의를 진행해 왔지만 아직 기구의 구체적인 조직 형태나 권한, 평가기준 등에 대한 최종 합의는 이뤄지지 않았다.
이번 움직임은 AI의 성능이 빠르게 향상되면서 안전성 검증이 개발 속도를 따라가지 못할 수 있다는 우려가 커지는 가운데 나왔다.
다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 AI 성능 향상 속도에 맞춰 안전 연구와 검증이 이뤄질 수 있도록 업계가 개발 속도를 조절할 필요가 있다고 주장했다. 샘 올트먼 오픈AI CEO와 허사비스 등도 AI 안전성 검증 강화 필요성에 공감하는 입장을 보였다.
그러나 대형 AI 기업들이 스스로 규칙을 만드는 방식에 대한 비판도 나온다. 캐나다 AI 기업 코히어의 에이단 고메즈 CEO는 소수의 미국 대형 AI 기업들이 ‘안전’을 명분으로 자신들에게 유리한 시장 규칙을 만들 가능성이 있다며 사실상의 ‘카르텔’이 될 수 있다고 주장했다.
도널드 트럼프 미국 대통령과 젠슨 황 엔비디아 CEO 등은 AI 개발 속도를 늦추는 방식의 접근에는 반대하는 입장을 보여 왔다.
