[AI Frontier] AI 에이전트도 토큰 비용을 감시하기 시작했다. AI FinOps가 필요한 이유!

[AI Frontier]

9월 15일, Cisco/Splunk와 WitnessAI는 서로 다른 출발점에서 AI 비용관리 기능을 동시에 공개했다. 기업이 묻는 질문도 “토큰이 얼마인가”에서 “어떤 에이전트가 왜 비용을 썼고, 그 결과가 사업가치로 이어졌는가”로 옮겨가고 있다.

AI 모델 가격표만 보면 인공지능 비용은 계속 낮아지는 듯하다. 하지만 기업이 에이전트를 실제 업무에 붙이기 시작하면 계산 방식은 달라진다. 하나의 요청이 여러 차례의 추론, 도구 호출, 검색, 재시도, 하위 에이전트 실행으로 이어질 수 있기 때문이다.

이 때문에 금융운영(Financial Operations, FinOps)의 관리 범위도 클라우드 청구서에서 AI 사용량과 가치로 넓어지고 있다. FinOps Foundation의 2026년 조사에서는 응답 실무자의 98%가 이미 AI 지출을 관리한다고 답했다. 2024년 31%, 2025년 63%에서 빠르게 늘어난 수치다.

최근에는 이 변화가 제품 기능으로 드러났다. 2026년 9월 15일 Cisco/Splunk는 Splunk Agent Observability에 Tokenomics 기능을 추가했고, 같은 날 WitnessAI는 새로운 AI FinOps 기능과 Unified AI ROI Dashboard를 발표했다. 같은 비용 문제를 다루지만 제품이 겨냥하는 지점은 다르다.

AGENCYTIMES VIEW

이번 신호를 토큰 대시보드 하나가 더 생긴 일로만 보면 변화의 폭을 놓치기 쉽다. 기업 AI의 비용관리 단위가 모델 → 사용자 → 에이전트 → 워크플로 → 사업 결과로 확장되고 있다는 점을 봐야 한다.

같은 날, 두 회사가 AI 비용 문제를 제품 기능으로 옮겼다

Cisco가 공개한 Splunk의 Tokenomics는 에이전트 관측성(Agent Observability)의 연장선에 있다. 모델과 에이전트의 동작을 보던 관측 데이터에 비용 정보를 붙이는 방식이다. 공식 자료 기준으로 요청, 모델, 에이전트, 워크플로별 토큰 사용과 비용을 추적하고, 도구 호출과 인프라 비용 변화도 조사할 수 있다. Claude Code, Codex, Cursor 같은 코딩 에이전트의 사용량도 비용 귀속 대상으로 제시됐다.

비용 예측 기능도 포함된다. Cisco는 자사의 Deep Time Series Model을 활용해 결제 기간이 끝나기 전에 소비 패턴과 향후 지출을 예상하는 방향을 제시했다. 월말 청구서를 받은 뒤 원인을 찾는 대신, 실행 중에 비용 이상 징후를 찾겠다는 접근이다.

WitnessAI의 출발점은 조금 다르다. 이 회사는 보안과 AI 거버넌스 계층에서 비용을 본다. 사용자, 모델, 애플리케이션, 에이전트의 AI 사용량을 측정하는 데서 그치지 않고 사용의 ‘목적’을 분류한다. 승인되지 않은 섀도 AI(Shadow AI)를 찾아 예상 지출까지 파악하는 기능도 강조한다.

WitnessAI는 비용을 줄이는 단계까지 들어간다. 요청의 복잡도와 업무 의도를 판단해 더 저렴하지만 충분한 모델로 라우팅하거나, 업무와 무관한 요청을 유료 추론 전에 차단한다. 비용을 관측하는 데서 그치지 않고 실행 전에 지출을 바꾸는 통제 계층에 가깝다.

Splunk Tokenomics와 WitnessAI AI FinOps는 무엇이 다른가

비교 항목	Splunk Tokenomics	WitnessAI AI FinOps
출발점	에이전트·모델 관측성과 비용 분석	AI 보안·거버넌스와 비용 통제
비용 귀속	요청, 모델, 에이전트, 워크플로, 공급자, 도구 호출 등	사용자, 팀, 에이전트, 모델, 애플리케이션, 업무 목적 등
예측·경보	소비 패턴 예측, 임계값·경보, 비용 변화 원인 조사	통합 ROI 대시보드와 비용·채택·위험 지표를 함께 제시
비용 통제	관측·분석을 바탕으로 모델과 워크로드 최적화 판단 지원	의도·복잡도에 따라 저비용 모델로 라우팅, 비업무 요청 사전 차단
섀도 AI	코딩 에이전트 등 사용량의 비용 가시성에 초점	승인되지 않은 AI 앱·에이전트·MCP 서버 발견과 예상 지출 파악
가치 연결	AI 지출을 사용량·생산성·사업 결과와 연결하는 방향	비용절감, 채택률, 보안 사고 회피 등을 ROI 가정과 연결

비교는 2026년 9월 16일 기준 각 회사의 공개 자료를 재구성한 것이다. 실제 지원 범위와 자동화 수준은 계약·배포 환경에 따라 달라질 수 있으며, 두 제품의 독립 성능 비교 결과를 의미하지 않는다.

차이만큼 공통점도 분명하다. 두 회사 모두 비용을 모델 공급자의 월별 청구서에만 남겨두지 않는다. 에이전트와 사용자, 업무 맥락까지 내려가 “누가 무엇을 위해 썼는가”를 설명하려 한다. AI 비용관리가 회계 사후처리에서 운영 중 제어로 이동하는 흐름이다.

AI FinOps란 무엇이며, 기존 클라우드 FinOps와 무엇이 다른가

인공지능 금융운영(FinOps for AI)은 AI 투자와 사용량을 비용, 예산, 사업가치 관점에서 지속적으로 관리하는 방식이다. FinOps Foundation은 AI를 별도의 기술 카테고리로 다루고 있다. 주요 차이로는 비용 구조의 복잡성, 빠른 개발 주기, 지출의 예측 불가능성, 더 높은 수준의 정책·거버넌스를 꼽는다.

전통적인 클라우드 비용관리에서는 가상머신, 스토리지, 네트워크처럼 비교적 안정적인 사용 단위를 부서나 프로젝트에 귀속할 수 있었다. AI에서는 토큰, API 호출, GPU, 모델 제공업체, 데이터 인프라, 소프트웨어 구독이 한데 섞인다. 한 애플리케이션 안에서도 여러 에이전트가 서로 다른 모델과 도구를 호출할 수 있어 비용 귀속은 더 복잡해진다.

특히 에이전트는 같은 일을 항상 같은 경로로 처리하지 않는다. 작업을 쪼개고, 검색하고, 도구를 부르고, 결과를 확인한 뒤 다시 시도한다. 입력 한 번이 모델 호출 한 번과 같지 않다. 그래서 “백만 토큰당 가격”은 모델 구매 단가를 비교하는 데는 유용하지만 실제 업무 원가를 설명하기에는 부족하다.

COST LADDER

토큰 → 모델 호출 → 에이전트 실행 → 워크플로 → 승인된 업무 결과

왼쪽은 기술 사용량에 가깝고, 오른쪽으로 갈수록 경영 판단에 가까워진다. 비용관리의 목표는 토큰을 줄이는 데 있지 않다. 같은 품질의 업무 결과를 더 낮고 예측 가능한 비용으로 만드는 데 있다.

토큰 비용만 보면 왜 에이전트의 실제 원가를 놓치나

실패한 실행도 토큰을 쓴다. 에이전트가 잘못된 도구를 호출하거나 같은 단계를 반복하면 모델 비용은 발생하지만 업무는 끝나지 않는다. 사용량만 보면 ‘많이 일한 것’처럼 보일 수 있지만, 실제로는 재작업 비용일 수 있다.

모델 밖에서도 비용이 발생한다. 검색 API, 외부 도구, 데이터베이스 조회, 벡터 검색, 관측 도구, 보안 필터, 클라우드 인프라가 하나의 에이전트 실행에 함께 붙는다. 모델 단가가 낮아져도 전체 워크플로 비용이 같은 폭으로 내려간다고 볼 수는 없다.

낮은 모델 단가가 곧 낮은 업무 원가를 뜻하는 것도 아니다. 저비용 모델을 선택했지만 오류가 늘어 사람의 검토와 재처리가 증가하면 최종 비용은 오를 수 있다. 반대로 모든 요청을 최고가 모델에 보내면 품질 차이가 거의 없는 단순 업무에서도 비용을 과도하게 지불한다.

AI FinOps가 단가표만으로 끝날 수 없는 이유다. 어떤 업무가 어떤 모델을 사용했고, 몇 번의 재시도를 거쳤으며, 최종 결과가 승인됐는지를 함께 봐야 한다. 라우팅과 비용 귀속이 중요한 이유도 여기에 있다.

기업은 어떤 단위로 AI 에이전트 비용을 관리해야 하나

모든 조직이 곧바로 정교한 AI FinOps 플랫폼을 도입할 필요는 없다. 먼저 비용을 어디까지 설명할 수 있는지 확인하는 편이 낫다. 최소한 ‘모델별 월간 비용’보다 한 단계 아래의 단위까지 내려가 볼 필요가 있다.

CHECKLIST

비용 귀속: 사용자·팀·에이전트·워크플로별 지출을 구분할 수 있는가?
실패 비용: 성공한 실행과 오류·재시도·중단된 실행을 따로 볼 수 있는가?
전체 원가: 모델 토큰뿐 아니라 도구 호출과 인프라 비용까지 합칠 수 있는가?
비인가 사용: 승인되지 않은 AI 도구와 에이전트의 지출을 발견할 수 있는가?
통제: 예산 임계값, 경보, 모델 라우팅, 중단 정책을 실행할 수 있는가?
결과: 비용을 완료된 티켓, 해결된 문의, 생성된 코드, 승인된 보고서 같은 업무 결과와 연결할 수 있는가?

이 가운데 마지막 항목이 가장 어렵다. 토큰 수는 자동으로 집계할 수 있지만 ‘좋은 결과’의 정의는 조직이 직접 정해야 한다. 고객센터라면 해결된 문의, 개발팀이라면 승인·병합된 코드, 영업조직이라면 검증된 리드처럼 분모를 업무 결과로 바꿔야 한다.

다음에 볼 숫자는 ‘토큰 가격’이 아니라 ‘승인된 업무 1건당 비용’이다

9월 15일의 두 발표를 보면 AI 비용관리가 별도 운영 영역으로 구체화되고 있다. Splunk는 에이전트 실행과 토큰 지출을 관측 데이터에 붙였고, WitnessAI는 사용 목적과 보안 정책까지 비용 통제에 연결했다. 출발점은 달라도 비용을 ‘누가, 왜, 어떤 결과를 위해 썼는가’까지 설명하려는 방향은 같다.

기업 입장에서 볼 것은 대시보드의 기능 수가 아니다. 에이전트가 업무를 더 많이 맡을수록 월간 AI 청구액만으로는 운영 효율을 설명하기 어렵다. 필요한 지표는 성공률, 재시도, 도구 호출, 사람의 검토 비용을 포함한 승인된 업무 1건당 비용에 가깝다.

다음에 확인할 항목도 분명하다. AI FinOps 도구가 비용 가시성을 넘어 실제 예산 통제와 워크로드 라우팅까지 얼마나 자동화하는지, 그 절감분이 품질 저하 없이 사업 결과로 이어지는지를 봐야 한다. 토큰은 출발점이다. 경영 지표는 그보다 오른쪽에 있다.

Summary

Cisco/Splunk와 WitnessAI는 2026년 9월 15일 각각 AI 비용관리 기능을 공개했다. Splunk는 토큰·에이전트·워크플로 관측과 비용 예측에, WitnessAI는 사용 목적·섀도 AI·모델 라우팅·사전 차단에 상대적으로 무게를 둔다. 공통점은 AI 비용을 공급자 청구서에서 업무 맥락으로 옮기려 한다는 데 있다. 기업이 최종적으로 관리해야 할 숫자는 토큰 단가보다 승인된 업무 결과 1건을 만드는 전체 비용에 가깝다.

FAQ

자주 묻는 질문

Q. AI FinOps란 무엇인가요?

AI 투자와 사용량을 비용, 예산, 귀속, 사업가치 관점에서 지속적으로 관리하는 방식이다. 기존 클라우드 FinOps와 원리는 비슷하지만 토큰, 모델, GPU, 에이전트, 복수 공급자처럼 변동성이 큰 비용 단위를 함께 다룬다는 차이가 있다.

Q. 토큰 사용량만 추적하면 AI 비용관리에 충분한가요?

충분하지 않다. 에이전트는 여러 모델 호출과 도구 사용, 재시도를 거칠 수 있어 토큰 수만으로 완료된 업무의 실제 원가를 설명하기 어렵다. 최소한 에이전트·워크플로·성공 여부까지 비용을 연결해 보는 편이 낫다.

Q. Splunk Tokenomics와 WitnessAI AI FinOps의 가장 큰 차이는 무엇인가요?

공개 자료 기준으로 Splunk는 관측성과 비용 귀속·예측에 무게를 두고, WitnessAI는 사용 목적 분류와 섀도 AI 탐지, 모델 라우팅, 사전 차단까지 비용 통제에 연결한다. 실제 도입에서는 기존 관측·보안 스택과 필요한 통제 수준을 함께 비교해야 한다.

Q. 기업이 가장 먼저 만들어야 할 AI 비용 지표는 무엇인가요?

모델별 월간 청구액보다 업무 결과와 연결된 단위 경제성을 먼저 보는 편이 낫다. 예를 들어 승인된 코드 변경 1건, 해결된 고객 문의 1건, 완료된 분석 보고서 1건에 들어간 전체 AI 비용을 추적하면 모델 교체나 라우팅의 효과를 비교하기 쉬워진다.

TERMINOLOGY

본문에 나오는 주요 용어

용어	뜻	실무 포인트
FinOps	기술 사용량과 비용을 재무·기술·사업 조직이 함께 관리하는 운영 방식	비용을 줄이는 것뿐 아니라 사업가치와 연결해 보는 것이 핵심이다.
AI FinOps	AI 비용과 사용량을 배분·예측·최적화하고 가치와 연결하는 FinOps 영역	토큰, 모델, 에이전트, GPU, SaaS 등 여러 비용원을 함께 살펴야 한다.
Tokenomics	이 글에서는 AI 토큰의 생산·소비·비용·가치를 관리하는 문맥의 용어	암호자산 문맥의 tokenomics와는 구분해서 읽어야 한다.
Shadow AI	조직의 승인·관리 체계 밖에서 사용하는 AI 도구나 에이전트	비용 누락뿐 아니라 데이터·보안 책임의 사각지대를 만든다.
MCP	모델 컨텍스트 프로토콜(Model Context Protocol, MCP). AI가 외부 도구·데이터와 연결되는 표준 방식 중 하나	에이전트가 연결하는 도구가 늘어날수록 비용·권한·감사 범위도 함께 넓어진다.

이 블로그 검색