Cloudflare, 구조화된 오류 응답으로 AI 비용 절감
- •Cloudflare가 AI 에이전트를 위한 구조화된 Markdown 및 JSON 오류 응답 기능을 도입했다.
- •새로운 형식은 오류 페이로드 크기와 토큰 비용을 98% 이상 절감한다.
- •RFC 9457 표준을 따르는 응답을 통해 에이전트는 재시도 및 차단 상황을 자율적으로 처리할 수 있다.
AI 에이전트는 디지털 인프라의 핵심 요소로 자리 잡고 있지만, 인간 중심적인 웹 환경에서는 여전히 한계에 직면하곤 한다. 지금까지 에이전트가 웹사이트 오류를 만나면, 주로 복잡한 코드와 텍스트가 가득한 무거운 HTML 페이지를 전달받아야 했다. 이러한 비효율적인 구조는 요청이 실패한 원인을 파악하기 위해 모델이 고가의 토큰을 낭비하게 만드는 원인이 되었다. 이에 Cloudflare는 AI 로직에 직접 대응하는 구조화된 오류 응답 시스템을 도입하며 이러한 흐름을 바꾸고 있다.
Cloudflare는 RFC 9457 표준을 채택하여 이제 Markdown 및 JSON 형식의 오류 상세 정보를 제공한다. 이를 통해 에이전트는 수백 줄의 시각적 스타일링이나 마크업을 분석하는 대신, 작고 의미 있는 페이로드만 수신하면 된다. 특히 이러한 디지털 규약은 속도 제한이나 요청 차단과 같은 문제가 일시적인지 혹은 영구적인지를 명확히 식별해 준다. 그 결과 에이전트는 무한 루프에 빠지지 않고 대기, 재시도, 혹은 개발자에게 보고할지 여부를 즉각적으로 결정할 수 있게 되었다.
효율성 측면의 성과도 놀라운 수준이다. 기존 HTML 오류와 비교했을 때, 이러한 구조화된 응답은 토큰 사용량을 98%나 줄여주며 더 빠른 복구와 상당한 비용 절감을 가능케 한다. 에이전트 기반 시스템을 구축하는 개발자들에게는 불필요한 데이터 처리 부담 없이 더욱 견고한 자동화를 구현할 수 있다는 의미이기도 하다. 무엇보다 이는 에이전트를 수동적인 방문자가 아닌, 기계 친화적인 웹 아키텍처의 능동적인 참여자로 대우하는 중요한 변화의 시작이다.