켄터키주 하원이 자동화된 정신 건강 관리 체계에 대한 논쟁 속에서 하원 법안 455호를 통과시키며 단호한 행보를 보였다. 이 법안은 면허를 소지한 전문가의 사전 검토 없이는 AI 모델이 치료 권고나 치료 계획을 수립하는 행위를 금지하는 내용을 담고 있다. 특히 행정 업무에는 AI를 활용할 수 있도록 허용하면서도 '직접 치료' 영역에는 엄격한 선을 그어, 환자와의 임상 관계가 반드시 인간 대 인간으로 유지되도록 보장했다.

법안을 발의한 킴 반타(Kim Banta) 켄터키주 하원의원은 기술이 환자 안전에 필수적인 인간의 비판적 판단을 결코 대체할 수 없다는 점을 강조했다. 이러한 움직임은 과거 위기 상황에서 부적절하고 위험한 조언을 제공해 논란이 되었던 '치료용 봇'에 대한 대중적 불안을 반영한다. 이에 따라 법안은 환자의 동의와 투명성을 의무화하여, 진정한 공감이나 윤리적 책임이 결여된 알고리즘에 감정 노동을 전적으로 맡기는 상황을 방지하고자 한다.

한편, 일각에서는 이러한 규제가 기술 혁신을 저해하고 정신 건강 서비스 접근성을 높일 수 있는 시장 중심의 해결책을 제한할 수 있다는 우려를 제기한다. 하지만 리사 윌너(Lisa Willner) 하원의원을 비롯한 법안 지지자들은 AI 시스템이 사용자에게 자해를 권유했던 실제 사례들을 지적하며 규제의 필요성을 역설했다. 해당 법안이 주 상원으로 송부됨에 따라, AI의 급격한 도입과 고위험 인적 서비스 보호 사이의 법적 갈등은 더욱 가속화될 것으로 보인다.

미국 켄터키주에서 마음이 아픈 사람들을 돌보는 방식에 대한 새로운 법(하원 법안 455호)을 통과시켰어요. 이 법은 자격증이 있는 전문가(면허를 소지한 전문가)가 미리 확인하지 않는다면, 인공지능(AI 모델)이 혼자서 치료 계획을 세우거나 결정을 내리는 것을 금지하고 있어요. 서류 정리 같은 복잡하지 않은 일(행정 업무)에는 인공지능을 써도 되지만, 환자를 직접 상담하는 일(직접 치료)만큼은 반드시 사람과 사람이 만나서 이루어져야 한다는 점을 확실히 한 거예요.

이 법을 제안한 킴 반타 의원은 기술이 아무리 발전해도 사람을 보호하기 위해 꼭 필요한 '사람의 생각'(비판적 판단)을 대신할 수는 없다고 강조했어요. 예전에 어떤 상담 로봇(치료용 봇)이 매우 위험한 조언을 해준 적이 있어서 사람들이 불안해했거든요. 그래서 이제는 인공지능을 쓰는지 솔직하게 밝히고(투명성), 환자에게 미리 허락(동의)을 얻어야 해요. 마음이 없는 컴퓨터 프로그램(알고리즘)에만 소중한 감정을 모두 맡기는 일을 막으려는 거예요.

물론 어떤 사람들은 이런 엄격한 규칙이 새로운 기술 발전(기술 혁신)을 방해할까 봐 걱정하기도 해요. 하지만 리사 윌너 의원은 인공지능이 사용자에게 스스로를 다치게 하라고 권유했던 실제 사례들을 이야기하며 법이 꼭 필요하다고 말했어요. 이제 이 법안은 다음 단계(주 상원)로 넘어가게 되었는데, 인공지능을 편리하게 사용하는 것과 사람의 안전을 지키는 것 사이에서의 고민은 앞으로도 계속될 것으로 보여요.