인공지능 기술과 의료 규제의 충돌이 임계점에 도달하고 있다. 최근 한 신생 기업이 표준적인 FDA 감시를 피하고자 이례적인 법적 채널을 탐색하기 시작했기 때문이다. 본래 의료용 소프트웨어는 환자의 안전을 보장하기 위해 엄격한 임상 검증을 거쳐야 하지만, 생성형 AI의 발전 속도는 이미 기존 규제 체계의 대응 능력을 앞질러 버렸다. 이에 따라 해당 기업은 모호한 '뒷문' 조항을 활용하여 연방 기관이 통상적으로 요구하는 수년간의 테스트 과정 없이 임상 AI 도구를 시장에 출시하려는 계획을 세우고 있다.

이번 행보는 FDA에 매우 민감한 시기에 이루어졌다. 현재 FDA는 의사결정 과정이 인간에게 투명하게 공개되지 않는 이른바 블랙박스 모델을 어떻게 평가하고 승인할지를 두고 고심하고 있다. 회그(Høeg) FDA 국장을 포함한 기관 지도부는 고위험 의료 분야, 특히 취약 계층을 대상으로 하는 치료법에 대해 더욱 강화된 감시가 필요하다는 신호를 보내왔다. 하지만 테크 업계는 지나치게 신중한 규제가 암 검출이나 자동 진단 시스템 같은 생명을 구하는 혁신적 기술의 발전을 저해할 수 있다고 강력히 반박한다.

IT 법률 분야의 전문가들은 이번 사례가 혁신 속도가 이를 규제하려는 법의 속도보다 훨씬 빠른 '페이싱 문제(pacing problem)'를 여실히 보여준다고 지적한다. 만약 이 스타트업의 시도가 성공한다면 AI가 의료 현장에 진입하는 방식에 있어 중요한 선례가 남게 될 것이다. 특히 기술의 안전성에 대한 입증 책임의 무게가 개발사에서 해당 도구를 도입하는 의료 현장으로 옮겨갈 가능성도 제기된다. 결국 이번 규제 도박의 결과가 향후 10년 동안 의료 AI가 나아갈 경계를 정의하게 될 전망이다.

인공지능 기술과 의료 규칙이 서로 부딪히고 있습니다. 최근 새롭게 시작한 기업(스타트업)이 국가의 안전 확인 절차(FDA 감시)를 피하기 위해 법의 빈틈을 찾아내려 하고 있기 때문입니다. 원래 병원에서 쓰는 프로그램은 환자가 다치지 않게 오랫동안 꼼꼼한 시험(임상 검증)을 거쳐야 합니다. 하지만 인공지능이 발전하는 속도가 법이 만들어지는 속도보다 너무 빨라졌습니다. 그래서 이 회사는 몇 년씩 걸리는 까다로운 검사 대신, 법률상의 '뒷문' 같은 조항을 이용해 인공지능 도구를 바로 시장에 내놓으려 합니다.

이런 행동에 국가 기관(FDA)은 매우 조심스러운 입장입니다. 특히 인공지능이 어떤 이유로 그런 결과를 냈는지 사람이 알 수 없는 '비밀 상자 방식(블랙박스 모델)'을 어떻게 허가해 줄지 고민하고 있습니다. 국가 기관의 책임자인 회그(Høeg) 국장은 아픈 사람들을 치료하는 위험한 기술일수록 더 엄격하게 살펴봐야 한다고 말합니다. 하지만 기술 회사들은 너무 깐깐하게 굴면 암을 찾아내거나 병을 진단하는 생명을 살리는 기술이 세상에 나오지 못하게 된다고 목소리를 높이고 있습니다.

법률 전문가들은 이번 일을 두고 '기술과 법의 속도 차이 문제(페이싱 문제)'라고 부릅니다. 기술은 달리기 선수처럼 빠른데 법은 거북이처럼 느려서 생기는 문제입니다. 만약 이 회사가 검사 없이 물건을 파는 데 성공한다면, 앞으로 인공지능이 병원에 들어오는 방식이 완전히 바뀔 것입니다. 특히 인공지능이 안전한지 증명해야 하는 책임이 기술을 만든 회사에서 이를 사용하는 병원으로 넘어갈 수도 있습니다. 결국 이번 결정이 앞으로 10년 동안 우리 의료 현장에서 인공지능이 어떤 모습으로 쓰일지를 결정하게 될 것입니다.