AI로 생성된 딥페이크가 현실과 조작의 경계를 무너뜨리는 시대에 발맞춰, 마이크로소프트가 디지털 신뢰의 미래를 조명하는 종합 연구 보고서를 공개했다. “미디어 무결성 및 인증: 현황, 방향 그리고 미래”라는 제목의 보고서에 따르면, 디지털 기만이라는 복잡한 위기를 단일 기술로 해결하기는 사실상 불가능하다. 이에 따라 창작자의 의도와 소비자의 인식 사이의 간극을 메울 수 있는 계층화된 ‘고신뢰 인증’ 전략이 필요함이 강조됐다.

이 전략의 핵심은 자산의 기원을 기록하는 출처 정보와 내구성이 강한 디지털 워터마킹 및 지문 분석 기술의 통합에 있다. 현재 존재하는 많은 도구가 이미지의 촬영 여부나 생성 모델 사용 여부를 식별할 수 있지만, 대개 그 구조가 취약하다는 점이 문제로 지적된다. 특히 소셜 미디어 플랫폼을 거치며 인증 신호가 제거되거나, 이른바 ‘사회기술적 공격’을 통해 정보가 왜곡될 위험이 크다. 실제로 악의적인 사용자가 진짜 사진에 미세한 수정을 가해 인위적으로 ‘AI 생성’ 경고가 뜨게 함으로써, 인증 도구 자체를 정당한 정보를 폄하하는 수단으로 악용할 수 있다는 분석이다.

로드맵은 마이크로소프트가 공동 설립한 표준화 기구인 C2PA의 역할을 강조하며 향후 방향성을 제시했다. 파일에 메타데이터를 부착하는 방식을 표준화함으로써 미디어의 ‘영양 성분표’를 만들겠다는 구상이다. 다만 AI 기술이 진화함에 따라 보안 기능이 강화된 전문가용 카메라부터 오프라인 모바일 기기에 이르기까지 모든 생태계를 포용해야 한다는 과제가 남는다. 궁극적인 목표는 대중에게 높은 수준의 보증 지표를 제공하여, 가짜가 판치는 인터넷 환경에서도 시민들이 뉴스에 대한 신뢰를 잃지 않도록 돕는 것이다.

AI로 생성된 딥페이크가 현실과 조작의 경계를 무너뜨리는 시대에 발맞춰, 마이크로소프트가 디지털 신뢰의 미래를 조명하는 종합 연구 보고서를 공개했다. “미디어 무결성 및 인증: 현황, 방향 그리고 미래”라는 제목의 보고서에 따르면, 디지털 기만이라는 복잡한 위기를 단일 기술로 해결하기는 사실상 불가능하다. 이에 따라 창작자의 의도와 소비자의 인식 사이의 간극을 메울 수 있는 계층화된 ‘고신뢰 인증’ 전략이 필요함이 강조됐다.

이 전략의 핵심은 자산의 기원을 기록하는 출처 정보와 내구성이 강한 디지털 워터마킹 및 지문 분석 기술의 통합에 있다. 현재 존재하는 많은 도구가 이미지의 촬영 여부나 생성 모델 사용 여부를 식별할 수 있지만, 대개 그 구조가 취약하다는 점이 문제로 지적된다. 특히 소셜 미디어 플랫폼을 거치며 인증 신호가 제거되거나, 이른바 ‘사회기술적 공격’을 통해 정보가 왜곡될 위험이 크다. 실제로 악의적인 사용자가 진짜 사진에 미세한 수정을 가해 인위적으로 ‘AI 생성’ 경고가 뜨게 함으로써, 인증 도구 자체를 정당한 정보를 폄하하는 수단으로 악용할 수 있다는 분석이다.

로드맵은 마이크로소프트가 공동 설립한 표준화 기구인 C2PA의 역할을 강조하며 향후 방향성을 제시했다. 파일에 메타데이터를 부착하는 방식을 표준화함으로써 미디어의 ‘영양 성분표’를 만들겠다는 구상이다. 다만 AI 기술이 진화함에 따라 보안 기능이 강화된 전문가용 카메라부터 오프라인 모바일 기기에 이르기까지 모든 생태계를 포용해야 한다는 과제가 남는다. 궁극적인 목표는 대중에게 높은 수준의 보증 지표를 제공하여, 가짜가 판치는 인터넷 환경에서도 시민들이 뉴스에 대한 신뢰를 잃지 않도록 돕는 것이다.