기술과 사법부의 접점이 커네티컷주에서 중대한 전환점을 맞이했다. 주 대법원이 이른바 '할루시네이션' 현상으로 생성된 가짜 법률 인용구가 포함된 사건의 기각 여부를 검토하기 시작했기 때문이다. 실제 임대차 분쟁 과정에서 변호인단은 실존하는 것처럼 보이지만 법적 근거가 전혀 없는 허구의 판례들이 담긴 60쪽 분량의 서면을 제출했다. 인공지능 모델이 허위 정보를 마치 사실인 것처럼 자신 있게 내놓는 이 현상은 현재 법조인의 전문적 책임과 윤리에 관한 논쟁의 중심에 서 있다.

해당 오류는 예일대학교 법학대학원의 제롬 N. 프랑크 법률 서비스 기구 소속 학생들에 의해 밝혀졌다. 학생들은 의견서를 통해 조작된 인용구가 상대방, 특히 방대한 분량의 서면을 일일이 검증할 자원이 부족한 소송 당사자에게 치명적이고 불공정하다고 지적했다. 논란이 된 법무법인 GLG Law 측은 서식 정리 과정에서 AI를 활용했으며, 검토 단계에서 미처 인지하지 못한 채 할루시네이션 내용이 포함되었다고 과실을 인정했다.

이러한 사건은 전국적으로 확산 중인 'AI 과실'의 단면을 보여주는 사례다. 이에 대응하여 커네티컷 연방법원은 AI 보조 조사를 통해 법률을 오기하는 행위에 대해 '무관용 원칙'을 선언했다. 한편, 주 법원 위원회는 변호사가 인공지능이 생성한 모든 인용구의 정확성을 직접 확인했음을 공식적으로 인증하도록 의무화하는 방안을 심도 있게 논의 중이다.

기술과 사법부의 접점이 커네티컷주에서 중대한 전환점을 맞이했다. 주 대법원이 이른바 '할루시네이션' 현상으로 생성된 가짜 법률 인용구가 포함된 사건의 기각 여부를 검토하기 시작했기 때문이다. 실제 임대차 분쟁 과정에서 변호인단은 실존하는 것처럼 보이지만 법적 근거가 전혀 없는 허구의 판례들이 담긴 60쪽 분량의 서면을 제출했다. 인공지능 모델이 허위 정보를 마치 사실인 것처럼 자신 있게 내놓는 이 현상은 현재 법조인의 전문적 책임과 윤리에 관한 논쟁의 중심에 서 있다.

해당 오류는 예일대학교 법학대학원의 제롬 N. 프랑크 법률 서비스 기구 소속 학생들에 의해 밝혀졌다. 학생들은 의견서를 통해 조작된 인용구가 상대방, 특히 방대한 분량의 서면을 일일이 검증할 자원이 부족한 소송 당사자에게 치명적이고 불공정하다고 지적했다. 논란이 된 법무법인 GLG Law 측은 서식 정리 과정에서 AI를 활용했으며, 검토 단계에서 미처 인지하지 못한 채 할루시네이션 내용이 포함되었다고 과실을 인정했다.

이러한 사건은 전국적으로 확산 중인 'AI 과실'의 단면을 보여주는 사례다. 이에 대응하여 커네티컷 연방법원은 AI 보조 조사를 통해 법률을 오기하는 행위에 대해 '무관용 원칙'을 선언했다. 한편, 주 법원 위원회는 변호사가 인공지능이 생성한 모든 인용구의 정확성을 직접 확인했음을 공식적으로 인증하도록 의무화하는 방안을 심도 있게 논의 중이다.