생성형 기술이 민주적 의사결정 과정을 어떻게 조작할 수 있는지를 보여주는 충격적인 사례가 발생했다. 최근 남부해안 대기질 관리국(SCAQMD)은 AI가 생성한 반대 여론이 빗발치자 주요 환경 정책안을 폐기했다. 질소산화물 배출을 줄이기 위해 가스 구동 가전을 단계적으로 폐지하려던 이 계획은 2만 건 이상의 공공 의견에 부딪혔으며, 당국 관계자들은 통상적인 안건에서는 유례를 찾아볼 수 없는 이례적인 규모라고 설명했다.

조사 결과, 해당 메시지들은 AI 기반의 여론 형성 플랫폼인 CiviClick이 주도한 것으로 드러났다. 식별하기 쉬운 동일 문구를 반복하는 기존의 Digital Astroturfing 캠페인과 달리, CiviClick의 기술은 개별화된 고유 메시지를 생성하는 것이 특징이다. 이러한 기능 때문에 정부 기관이 실제 시민의 우려와 고도화된 기술적 로비 활동을 구분하는 것이 점점 더 어려워지고 있는 실정이다.

특히 SCAQMD 직원이 제출된 의견 중 일부를 검증하는 과정에서, 여러 시민이 자신의 이름으로 서한이 발송된 사실을 전혀 인지하지 못했다는 사실이 밝혀졌다. 이번 사건은 공공 정책의 취약성을 여실히 드러낸다. 2019년 캘리포니아에서 제정된 '봇 방지법(Bot Act)'은 자동화된 계정을 규제하지만, 현대적인 생성형 AI에 대한 구체적인 규정은 부족하다. AI 도구가 정교해질수록 실제 여론과 합성된 영향력 사이의 경계가 모호해지며 지방 자치의 무결성을 위협하고 있다.

인공지능 기술이 사람들의 소중한 의견을 가짜로 만들어 세상을 속이는 충격적인 일이 벌어졌습니다. 최근 미국의 한 환경 기관(SCAQMD)은 공기를 깨끗하게 만들기 위해 가스 가전제품을 줄이려던 계획을 갑자기 포기했습니다. 반대하는 편지가 2만 통 넘게 쏟아졌기 때문인데, 알고 보니 이 편지들은 '시비클릭(CiviClick)'이라는 인공지능이 만든 것이었습니다.

예전에는 똑같은 글을 복사해서 여러 번 보내는 수법(디지털 애스트로터핑)을 썼기 때문에 가짜를 찾기 쉬웠습니다. 하지만 이번 인공지능은 2만 건의 편지를 모두 다른 내용으로 작성했습니다. 마치 수만 명의 사람이 제각각 편지를 쓴 것처럼 꾸민 것이지요. 이 때문에 정부가 실제 시민의 걱정인지, 기계가 꾸며낸 가짜 로비 활동(기술적 로비)인지를 가려내기가 매우 어려워졌습니다.

특히 정부가 확인해 본 결과, 자신의 이름으로 편지가 나갔다는 사실조차 모르는 시민들이 많았습니다. 마치 내가 하지도 않은 말을 누군가 내 이름으로 몰래 전달한 것과 같습니다. 캘리포니아에는 이미 자동 프로그램의 활동을 막는 법(봇 방지법)이 있지만, 너무나 똑똑해진 요즘 인공지능을 막기에는 힘이 부족합니다. 인공지능이 정교해질수록 진짜 사람의 목소리를 지키는 일이 더욱 중요해지고 있습니다.