미국 Alabama Supreme Court가 인공지능(AI)으로 생성된 가짜 판례를 법원에 제출한 변호사에게 제재를 가했다.
사건은 한 항소 사건에서 시작됐다. 변호사 W. Perry Hall이 제출한 서면에서 존재하지 않는 판례와 인용문이 다수 발견되면서 논란이 불거졌다.
법원은 해당 항소를 “근거 없는(frivolous) 주장”으로 판단하고, 변호사의 행위를 “심각한 위반(egregious)”으로 규정했다.
판결문에서 Chris McCool 대법관은 “법원은 변호사가 제출하는 자료를 신뢰할 수 있어야 한다”며 “그 신뢰가 무너지면 사법 시스템 자체가 흔들린다”고 지적했다.
특히 더 큰 논란은 사과문에서 발생했다.
Greg Cook 대법관은 별도의 의견에서 “AI 오류를 인정하며 재발 방지를 약속한 바로 그 문장 안에서 또 다른 존재하지 않는 판례를 인용했다”고 지적했다.
이어 “이 정도 상황은 AI로 사과문까지 작성했을 가능성을 의심할 수밖에 없다”고 꼬집었다.
실제 제출된 문서에는 전혀 관련 없는 사건들이 뒤섞여 있었다.
- 네브래스카 항소법원 판례 → 실제는 아이오와 형사 사건
- 일리노이 신탁 사건 인용 → 인디애나 판례와 매사추세츠 세금 사건 혼합
- ‘Gilbert v. Murdock’ → 1802년 노스캐롤라이나 사건으로 확인
해당 변호사는 자신의 행위를 자진 신고하고 사과했지만, 법원은 향후 단독으로 서류를 제출하지 못하도록 제한했다. 다른 변호사의 공동 서명이 있어야만 문서를 제출할 수 있게 된 것이다.
이번 사건은 AI 활용이 확산되는 가운데, 법률 분야에서 검증 없는 사용이 얼마나 큰 리스크를 초래할 수 있는지를 보여준 대표 사례로 평가된다.
