미국 노스캐롤라이나주 롤리(Raleigh)시는 마크 위텐버그(Mark Wittenburg) 정보책임자(CIO)의 주도하에 단편적인 실험을 넘어 통합적인 기술 전략으로 전환하고 있다. '기어가기, 걷기, 달리기(crawl, walk, run)'라는 철학을 바탕으로, 시는 인공지능과 같은 파급력이 큰 기술이 대중에게 공개되기 전 내부에서 엄격한 테스트를 거치도록 보장한다. 이러한 신중한 접근 방식은 복잡한 배포를 위한 감독 체계를 구축하는 동시에 조직에 즉각적인 가치를 더하는 저위험 시범 사업을 우선시한다.

가장 유의미한 변화 중 하나는 단순한 챗봇을 넘어 에이전틱 AI 시스템으로 이동하고 있다는 점이다. 표준 챗봇은 단순히 정보만을 제공하지만, '제로 터치 에이전트'는 사람의 개입 없이 IT 서비스 대기열을 관리하는 등 자율적으로 과업을 수행하도록 설계되었다. 특히 부서 간의 제도적 지식을 통합함으로써, 이 에이전트들은 서로 다른 인사(HR) 및 시설 프로세스를 연결하여 기존의 키워드 기반 응답을 훨씬 뛰어넘는 효율적인 경험을 제공한다.

또한 시는 비디오 콘텐츠를 이해하고 설명할 수 있는 정교한 시각 언어 모델을 '롤리 인 모션(Raleigh in Motion)' 프로젝트에 적용하고 있다. 이 시스템을 통해 도시 계획가들은 자연어를 사용하여 교통 카메라 피드에 질문을 던지고, 보행자 패턴이나 차량 흐름에 대한 구체적인 답변을 얻을 수 있다. 이러한 데이터 기반 통찰력은 AI 최적화 폐기물 수거 및 디지털 트윈 모델링 계획과 결합되어 지방 정부가 물리적 인프라를 관리하는 방식에 있어 커다란 도약을 의미한다.

보안과 교육 역시 이러한 디지털 진화의 핵심 축이다. 롤리시는 모든 액세스 요청을 잠재적 위협으로 간주하고 엄격한 검증을 요구하는 보안 프레임워크인 제로 트러스트 아키텍처를 구현했다. 아울러 인력 역량을 강화하기 위해 AI 모델에 정밀한 지침을 내리는 기술인 프롬프트 엔지니어링 중심의 교육 과정을 개설했으며, 이를 통해 직원들이 강력한 도구를 안전하고 효과적으로 사용할 수 있도록 지원하고 있다.

미국 노스캐롤라이나주의 롤리시는 정보 책임자(CIO) 마크 위튼버그와 함께 인공지능을 똑똑하게 사용하는 계획을 세웠어요. 이들은 '기어 다니기, 걷기, 달리기(crawl, walk, run)'라는 방법을 써요. 아기가 처음부터 달릴 수 없듯이, 인공지능도 처음에는 안전하고 쉬운 것부터 시작해서 점점 어려운 일에 도전하는 거예요. 시민들에게 기술을 보여주기 전에 먼저 내부에서 꼼꼼하게 시험해 보고 있어요.

가장 놀라운 변화는 단순히 대답만 하는 인공지능을 넘어, 스스로 일을 끝마치는 '비서 인공지능(에이전틱 AI)'을 도입한 거예요. 예전에는 사람이 일일이 시켜야 했지만, 이제는 '사람 손이 필요 없는 비서(제로 터치 에이전트)'가 컴퓨터 서비스 업무를 스스로 알아서 처리해요. 이 인공지능은 여러 부서의 지식을 모두 알고 있어서, 복잡한 서류 작업도 척척 연결해 준답니다.

또한, 롤리시는 영상의 내용을 이해하고 설명할 수 있는 '보는 인공지능(시각 언어 모델)'을 교통 카메라에 연결했어요. 이 시스템 덕분에 담당자는 "횡단보도를 건너는 사람이 얼마나 많아?"라고 말로 물어보기만 해도 정확한 답을 얻을 수 있어요. 이 외에도 인공지능이 쓰레기차의 경로를 짜주거나, 도시를 가상 세계에 똑같이 만들어 미리 실험해 보는 기술(디지털 트윈)도 준비하고 있어요.

인공지능을 안전하게 사용하는 법도 중요해요. 롤리시는 아무리 아는 사람이라도 매번 본인 확인을 하는 '철저한 보안 시스템(제로 트러스트 아키텍처)'을 만들었어요. 그리고 시청 직원들에게 인공지능에게 명령을 잘 내리는 기술(프롬프트 엔지니어링)을 가르치는 수업도 열었답니다. 인공지능이라는 강력한 도구를 안전하고 올바르게 쓰기 위해서예요.