뉴욕주, 전문직 사칭 챗봇에 엄격한 법적 책임 부과 추진
- •뉴욕주 상원 법안 S7263은 법률 및 의료 분야에서 면허가 있는 전문가를 사칭하는 챗봇을 규제 대상으로 삼는다.
- •비판론자들은 법안의 모호한 문구가 사법 접근성을 제한하고 기업의 리걸테크 혁신을 저해할 수 있다고 우려한다.
- •법안 발의자들은 일반적인 AI 정보 수집을 금지하는 것이 아니라 사기 행위를 방지하는 것이 목적임을 명확히 했다.
뉴욕주가 법률 및 의료와 같은 전문 분야 내 인공지능의 역할을 규제하는 상원 법안 S7263을 두고 뜨거운 논쟁을 벌이고 있다. 이 법안은 '면허를 소지한 전문가를 사칭하는 챗봇'으로부터 소비자를 보호한다는 명목으로 발의되었으나, 법률 전문가들은 법안의 적용 범위가 지나치게 넓어질 수 있다며 경고의 목소리를 높이는 중이다. 특히 논란의 핵심은 해당 법안이 AI가 스스로를 의사나 변호사라고 속이는 행위만을 차단할 것인지, 아니면 전문적인 조언으로 해석될 수 있는 AI의 '실질적인 답변' 자체를 사실상 금지할 것인지에 달려 있다.
이에 따라 리걸테크 산업에 미칠 파장도 상당할 것으로 예상된다. 만약 법안이 광범위하게 해석된다면, 기업의 계약 관리나 개인의 간단한 법적 절차를 돕는 '셀프 서비스' AI 도구들이 처벌 대상이 될 수 있기 때문이다. 전통적으로 법조계는 자격을 갖춘 인간만이 법률 자문을 제공하도록 하는 '무면허 법률 행위(UPL)' 금지 원칙을 고수해 왔다. 하지만 이러한 과거의 규칙을 소프트웨어에 그대로 적용할 경우, 법적 도움이 필요하지만 높은 비용으로 인해 어려움을 겪는 이들을 돕기 위해 설계된 '사법 격차' 해소 도구들이 무력화될 위험이 크다.
특히 법안의 대표 발의자인 크리스텐 곤잘레스(Kristen Gonzalez) 상원의원은 이번 입법이 사용자의 질문이나 일반적인 정보 습득을 금지하는 것이 아니라고 선을 그었다. 오히려 AI가 면허를 가진 인간 전문가인 것처럼 기만적으로 위장하는 것을 방지하는 데 목적이 있다는 설명이다. 다만 이러한 해명에도 불구하고 현재 법안의 문구는 여전히 모호한 상태다. 이에 따라 일각에서는 이 법안이 일반 대중의 정보 접근성을 희생시키면서까지 기존 전문직을 기술적 경쟁으로부터 보호하려는 '보호주의' 수단으로 변질될 수 있다는 우려를 제기하고 있다.