2026 HIMSS 컨퍼런스에서는 빠르게 진화하는 인공지능과 이를 관리해야 할 규제 체계 사이의 격차가 더욱 벌어지고 있다는 점이 주요 화두로 떠올랐다. 미국 보건복지부(HHS)와 식품의약국(FDA)의 관계자들은 현재의 감독 모델이 주로 정적인 소프트웨어에 맞춰져 있어, 스스로 행동하고 학습하는 에이전틱 AI 시스템의 속도를 따라잡지 못한다는 우려를 표명했다. FDA가 지금까지 1,300개 이상의 AI 기반 의료 기기를 승인했으나, 배포 후에도 스스로 진화하는 모델의 특성상 일회성 검토에서 벗어나 데이터 기반의 지속적인 모니터링 체계로 전환해야 할 필요성이 커졌다.

연방 정부의 규제 완화 기조 속에 각 주 정부가 독자적인 법안을 마련하면서 규제 지형은 파편화된 상태다. 이러한 지역별 규제의 혼재는 전국 단위의 의료 서비스 제공자들에게 상당한 부담을 안겨주고 있다. 특히 주마다 책임 소재에 대한 정의와 안전 가이드라인이 달라 복잡한 준수 환경이 조성되었다. 업계 전문가들은 명확한 연방 차원의 신호가 없다면, AI 특유의 '블랙박스' 속성으로 인해 향후 자율 에이전트가 임상적 오류를 범했을 때 복잡한 의료 과실 분쟁이 발생할 수 있다고 경고했다.

이러한 위험에 대응하기 위해 ARPA-H와 같은 기관은 임상 도구를 실시간으로 감시하는 '감독 에이전트' 기술을 선도적으로 도입하고 있다. 이는 인적 자원이 부족한 영역에서 자동화된 감시 계층을 제공함으로써 관리 효율을 높이는 역할을 한다. 이러한 접근 방식은 인간의 개입을 최적화하는 데 목적이 있다. 그 결과 심혈관 질환 치료 분야에서 AI의 역할이 커짐에 따라, 기술 배포의 구조적 단계에서부터 안전성과 책임성을 내재화할 수 있을 것으로 기대된다.

2026년에 열린 큰 건강 관련 회의(HIMSS 컨퍼런스)에서는 인공지능이 발전하는 속도를 법이 따라가지 못한다는 걱정이 쏟아졌어요. 미국의 건강과 약을 책임지는 곳(HHS, FDA)은 지금의 법이 예전의 멈춰 있는 프로그램에만 맞춰져 있다고 말해요. 스스로 배우고 변하는 인공지능(에이전틱 AI)은 마치 살아있는 생물 같아서, 처음에 한 번만 검사하고 끝내는 게 아니라 데이터(데이터 기반)를 보며 매일매일 지켜보는 시스템(지속적인 모니터링)이 꼭 필요해졌기 때문이에요.

나라 전체의 규칙이 아직 정해지지 않은 틈을 타서, 미국의 각 동네(주 정부)마다 자기들만의 법을 따로 만들고 있어요. 이렇게 법이 조각조각 나뉘어 있다 보니(파편화), 여러 지역에서 환자를 돌보는 큰 병원들은 어느 법을 따라야 할지 매우 혼란스러워해요. 특히 인공지능은 속을 알 수 없는 상자(블랙박스) 같아서, 나중에 인공지능이 잘못된 처방을 내려서 사고가 나면 누구 잘못인지 따지는 법적 싸움(의료 과실 분쟁)이 아주 복잡해질 수 있다고 전문가들이 걱정하고 있어요.

이런 무서운 일을 막기 위해 미국의 연구 기관(ARPA-H)은 병원 인공지능이 잘 작동하는지 24시간 감시하는 '로봇 감독관(감독 에이전트)'을 만들고 있어요. 일손이 부족한 병원에서 인공지능이 다른 인공지능을 대신 지켜보게 해서 더 안전하게 관리하려는 거예요. 이 기술은 결국 사람이 마지막에 잘 확인하도록(인간의 개입) 도와주는 역할을 합니다. 특히 심장병(심혈관 질환)을 고치는 분야에서 인공지능이 많이 쓰일 예정인데, 처음부터 안전하고 책임감 있게 작동하도록 튼튼한 장치를 만들고 있습니다.