의료 AI 연합인 Coalition for Health AI(CHAI)가 야심 차게 추진했던 국가 차원의 AI 보증 연구소 네트워크 구축 계획을 공식 철회했다. 이는 의료 산업이 인공지능 알고리즘의 신뢰성을 확보하는 방식에 있어 중대한 전략적 변화가 일어났음을 시사한다. 당초 이 구상은 AI 모델이 실제 진료 현장에 도입되기 전 안전성과 공정성을 검증하는 표준화된 체계를 목표로 했다. 그러나 급속도로 발전하는 기술을 규제하는 과정에서의 복잡한 물류 문제와 정치적 불확실성이 겹치며 결국 무산됐다.

CHAI의 CEO인 브라이언 앤더슨(Brian Anderson)은 중앙 집중 방식의 사전 조달 테스트 비전을 "착오"였다고 인정하며, 대신 분산형 AI 거버넌스 모델로 선회했다. 새로운 전략은 '보증 자원 제공자(ARP)'를 통해 의료 시스템의 사후 모니터링을 지원하는 데 집중한다. 이는 일회성 인증을 제공하는 대신, 실제 임상 환경에서 AI 모델의 성능을 장기적으로 추적하겠다는 의도다. 실제로 내부 관리 비용을 감당하기 어려운 많은 병원들에 있어 기존의 모델 감시 체계는 지속 불가능한 수준에 도달한 상태였다.

한편 BeeKeeper AI와 같은 기업과의 파트너십을 통해 안전한 테스트 환경과 익명화된 데이터를 활용하는 대안이 제시되고 있으나, 중앙화된 연방 프레임워크의 부재는 여전히 AI 안전성 프로토콜의 공백을 남기고 있다. 특히 정치적 기류에 따라 연방 정부의 지원 방향이 바뀌는 가운데, 이제 의료 분야는 민간 감사인과 개별적인 거버넌스 전략에 의존하여 임상 자동화에 따른 리스크를 스스로 관리해야 하는 과제를 안게 됐다.

병원용 인공지능(AI)을 만드는 단체인 'CHAI'가 전국에 '인공지능 안전 검사소'를 지으려던 계획을 공식적으로 그만두기로 했어요. 원래는 의사 선생님들이 인공지능을 환자 치료에 쓰기 전에, 이 인공지능이 정말 안전하고 공평한지 미리 확인하는 표준화된 체계(보증 연구소 네트워크)를 만들고 싶어 했죠. 하지만 인공지능 기술이 너무 빨리 변하고, 나라의 정책이 바뀌는 등 복잡한 문제(물류 문제와 정치적 불확실성)가 겹치면서 결국 계획이 무산되었습니다.

CHAI의 대장인 브라이언 앤더슨은 "미리 한 곳에서 다 검사하려고 했던 생각은 착오였다"고 인정했어요. 대신 이제는 인공지능을 사용하는 동안 문제가 없는지 계속 관찰하는 방식(분산형 거버넌스)으로 방향을 바꿨어요. 인공지능이 잘 작동하도록 도와주는 도우미(보증 자원 제공자)들을 통해, 병원들이 인공지능을 쓰는 내내 성능을 확인하겠다는 것이죠. 사실 많은 병원이 인공지능을 직접 관리하는 데 드는 비용(운영 비용)이 너무 커서, 예전 방식으로는 더 이상 버티기 힘든 상황이었답니다.

안전하게 테스트할 수 있는 다른 방법들도 나오고는 있지만, 나라 전체를 아우르는 공식적인 규칙(연방 프레임워크)이 없어서 여전히 빈틈이 남아 있어요. 특히 정부의 지원 방향이 정치 상황에 따라 바뀔 수 있어서, 이제 병원들은 스스로 믿을 만한 외부 전문가(민간 감사인)를 찾아 인공지능을 쓰면서 생길 수 있는 위험(리스크 관리)을 스스로 책임져야 하는 어려운 과제를 안게 되었습니다.