캘리포니아가 급변하는 인공지능 분야에서 주 정부와 기업 간의 협력 방식에 대한 중요한 선례를 남기고 있다. 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사는 최근 생성형 AI 조달을 겨냥한 행정명령에 서명하며, 주 정부 기관의 기술 검증 및 구매 프로세스를 전면 개편할 것을 요구했다. 특히 기업이 유해한 편향성과 시민권 침해에 대비한 내부 안전장치를 명확히 설명하도록 의무화함으로써, 혁신의 내재적 위험을 완화하는 동시에 글로벌 테크 허브로서의 지위를 유지하려는 의도다.

해당 지침에 따라 각 주 정부 부처는 120일 이내에 조달 체계 변경 권고안을 마련해야 하는 즉각적인 압박을 받게 됐다. 개편안에는 공급망 위험에 대한 새로운 평가 기준과 함께, 과거 개인정보나 시민 자유를 저해한 이력이 있는 계약업체에 대한 잠재적 퇴출 조치 등이 포함된다. 이는 기술 제공업체에 안전과 윤리적 적합성에 대한 입증 책임을 더 무겁게 지우는 '신뢰하되 검증하는' 모델로의 패러다임 전환을 시사한다.

조달 정책을 넘어 해당 행정명령은 AI 기반 정부 서비스 구축과 AI 생성 미디어에 대한 워터마킹 도입을 포함한 광범위한 디지털 전략을 포괄한다. 이는 행정 효율화를 위해 AI를 적극적으로 통합하면서도 시민을 보호하기 위한 규제 틀을 동시에 구축하는 '투 트랙' 접근 방식을 반영한다. 주 정부 차원의 첫 번째 주요 개입 사례로서, 캘리포니아의 조치는 향후 국가적 AI 거버넌스 표준의 청사진 역할을 할 것으로 평가받는다.

캘리포니아가 급변하는 인공지능 분야에서 주 정부와 기업 간의 협력 방식에 대한 중요한 선례를 남기고 있다. 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사는 최근 생성형 AI 조달을 겨냥한 행정명령에 서명하며, 주 정부 기관의 기술 검증 및 구매 프로세스를 전면 개편할 것을 요구했다. 특히 기업이 유해한 편향성과 시민권 침해에 대비한 내부 안전장치를 명확히 설명하도록 의무화함으로써, 혁신의 내재적 위험을 완화하는 동시에 글로벌 테크 허브로서의 지위를 유지하려는 의도다.

해당 지침에 따라 각 주 정부 부처는 120일 이내에 조달 체계 변경 권고안을 마련해야 하는 즉각적인 압박을 받게 됐다. 개편안에는 공급망 위험에 대한 새로운 평가 기준과 함께, 과거 개인정보나 시민 자유를 저해한 이력이 있는 계약업체에 대한 잠재적 퇴출 조치 등이 포함된다. 이는 기술 제공업체에 안전과 윤리적 적합성에 대한 입증 책임을 더 무겁게 지우는 '신뢰하되 검증하는' 모델로의 패러다임 전환을 시사한다.

조달 정책을 넘어 해당 행정명령은 AI 기반 정부 서비스 구축과 AI 생성 미디어에 대한 워터마킹 도입을 포함한 광범위한 디지털 전략을 포괄한다. 이는 행정 효율화를 위해 AI를 적극적으로 통합하면서도 시민을 보호하기 위한 규제 틀을 동시에 구축하는 '투 트랙' 접근 방식을 반영한다. 주 정부 차원의 첫 번째 주요 개입 사례로서, 캘리포니아의 조치는 향후 국가적 AI 거버넌스 표준의 청사진 역할을 할 것으로 평가받는다.