[AI Frontier] 6. AI 에이전트 아키텍처: 모델, 도구, 메모리, 워크플로의 관계- AI 에이전트 돋보기

[AI Frontier]

AI 에이전트 아키텍처는 모델 하나로 설명되지 않는다. 목표를 해석하는 모델, 실제 업무를 연결하는 도구, 맥락을 이어가는 메모리, 실행 순서를 정하는 워크플로, 그리고 멈출 지점을 정하는 가드레일이 함께 있어야 한다.

Image generated by OpenAI

AI 에이전트가 챗봇과 다른 이유는 답변의 품질만이 아니다. 에이전트는 목표를 받고, 단계를 나누고, 도구를 호출하고, 상태를 기억하며, 필요한 경우 사람 승인까지 요청한다. 이 구조가 잡혀야 “실행형 AI”가 된다.

그래서 AI 에이전트 아키텍처를 볼 때는 모델 이름부터 비교하면 안 된다. 먼저 이 에이전트가 어떤 업무 목표를 처리하는지, 어떤 도구에 연결되는지, 어떤 정보를 기억해야 하는지, 어디서 멈춰야 하는지 정해야 한다.

AGENT ARCHITECTURE MAP

목표

무엇을 끝낼지 정한다.

모델

판단과 생성을 맡는다.

도구

검색, 파일, API를 호출한다.

메모리

맥락과 상태를 이어간다.

가드레일

검토와 중단 지점을 둔다.

SYSTEM SUMMARY

AI 에이전트 아키텍처의 핵심은 모델, 도구, 메모리, 워크플로, 가드레일의 연결 방식이다. 모델은 판단하고, 도구는 실행하며, 메모리는 상태를 유지하고, 워크플로는 순서를 정하고, 가드레일은 위험한 행동을 멈춘다.

AI 에이전트 아키텍처란 무엇인가

AI 에이전트 아키텍처란 AI가 목표를 처리하기 위해 어떤 구성 요소를 어떤 순서로 사용하는지 정한 시스템 구조다. 여기에는 모델, 프롬프트 또는 지시문, 도구, 메모리, 워크플로, 오케스트레이션, 가드레일이 포함된다.

중요한 점은 이 요소들이 따로 움직이지 않는다는 것이다. 모델은 도구를 선택하고, 도구 호출 결과는 다시 모델의 판단에 들어가며, 메모리는 진행 상태를 이어준다. 워크플로는 이 과정을 정해진 순서로 묶고, 가드레일은 위험한 행동을 멈춘다.

ARCHITECTURE STACK

판단 계층

모델과 지시문

목표를 해석하고, 다음 행동을 선택하고, 응답이나 계획을 만든다.

실행 계층

도구와 API

검색, 문서함, 데이터베이스, 업무 앱을 실제로 호출한다.

통제 계층

메모리와 가드레일

상태를 유지하고, 민감한 행동은 검토하거나 중단한다.

모델은 AI 에이전트에서 어떤 역할을 하나

모델은 에이전트의 판단 엔진이다. 사용자의 목표를 해석하고, 어떤 정보를 더 찾아야 하는지 판단하고, 도구를 호출할지 답변을 생성할지 결정한다. 하지만 모델 하나가 곧 에이전트는 아니다.

실무에서는 모델보다 지시문 설계가 먼저 흔들리는 경우도 많다. 에이전트가 어떤 역할을 하는지, 어떤 일을 하지 말아야 하는지, 모르면 어떻게 질문해야 하는지, 어떤 형식으로 결과를 내야 하는지 정해두지 않으면 같은 모델을 써도 결과가 불안정해진다.

NOTE

좋은 모델을 고르는 일과 좋은 에이전트를 만드는 일은 다르다. 에이전트 품질은 모델, 지시문, 도구 정의, 데이터 경계, 평가 기준이 함께 맞아야 나온다.

도구 호출은 어디까지 허용해야 하나

도구는 에이전트를 실행형 시스템으로 만든다. 검색, 파일 읽기, 데이터베이스 조회, 캘린더 확인, 티켓 생성, CRM 업데이트처럼 모델 밖의 세계와 연결되는 지점이다. 에이전트가 업무에 쓸모 있어지는 순간이지만, 동시에 위험해지는 지점이기도 하다.

따라서 도구는 넓게 열지 말고 업무 목적별로 나눠야 한다. 읽기 도구와 쓰기 도구를 분리하고, 외부 발송이나 데이터 변경처럼 되돌리기 어려운 행동은 승인 대기 상태로 둔다. 도구 호출 기록은 반드시 남겨야 한다.

도구 유형	예시	허용 기준	통제 장치
검색 도구	웹 검색, 사내 문서 검색	출처와 접근 권한을 확인할 수 있을 때	원문 링크, 검색 로그, 권한 상속
조회 도구	CRM 조회, 티켓 상태 확인, 재고 조회	업무 목적과 데이터 범위가 명확할 때	역할 기반 권한, 민감 정보 마스킹
작성 도구	문서 초안, 답변 후보, 리포트 생성	사람이 검토할 수 있는 산출물일 때	초안 표시, 근거 표시, 버전 관리
실행 도구	고객 발송, 결제, 삭제, 권한 변경	낮은 위험 또는 사람 승인 후	승인 대기, 실행 로그, 즉시 중단

메모리는 왜 필요한가

메모리는 에이전트가 이전 맥락과 현재 진행 상태를 이어가게 한다. 단발성 질문에는 없어도 큰 문제가 없지만, 장기 업무나 반복 업무에서는 중요하다. 지난번에 어떤 기준으로 분류했는지, 어떤 고객에게 어떤 답변을 보냈는지, 어떤 작업이 승인 대기인지 알아야 하기 때문이다.

다만 메모리는 편의 기능이면서 동시에 보안 이슈다. 무엇을 기억할지, 얼마나 오래 보관할지, 누가 볼 수 있는지, 사용자가 삭제를 요청할 수 있는지 정해야 한다. 기억이 많을수록 좋은 에이전트가 되는 것은 아니다.

MEMORY DESIGN MAP

대화 맥락

현재 요청의 흐름을 유지한다.

작업 상태

진행 중, 승인 대기, 완료를 구분한다.

사용자 선호

형식, 톤, 반복 기준을 반영한다.

민감 기록

기본 보관보다 제한과 삭제 기준이 먼저다.

워크플로와 오케스트레이션은 무엇이 다른가

워크플로는 작업 순서다. 예를 들어 고객 문의를 읽고, 유형을 분류하고, 정책을 조회하고, 답변 후보를 만들고, 승인 대기 상태로 넘기는 흐름이다. 단일 에이전트라도 워크플로는 필요하다.

오케스트레이션은 여러 단계나 여러 에이전트를 어떻게 조율할지의 문제다. 순차적으로 처리할지, 여러 에이전트가 병렬로 작업할지, 특정 조건에서 전문 에이전트로 넘길지 정한다. 복잡한 업무일수록 이 설계가 결과 품질과 비용을 크게 좌우한다.

ORCHESTRATION PATTERNS

순차 처리

A → B → C

단계가 명확한 업무에 적합하다. 검토와 로그를 붙이기 쉽다.

병렬 처리

A + B + C

리서치, 비교, 검증처럼 여러 관점을 동시에 볼 때 유리하다.

전문가 위임

라우터 → 전문 에이전트

법무, 보안, 고객 응대처럼 역할이 분리된 업무에 맞다.

기업은 AI 에이전트 아키텍처를 어떻게 설계해야 하나

기업 환경에서는 아키텍처를 기능 목록으로 설계하면 부족하다. 업무 목표, 데이터 경계, 도구 권한, 메모리 범위, 승인 기준, 로그 기준을 한 장의 운영 지도처럼 정리해야 한다.

시작은 작게 잡는 편이 낫다. 하나의 업무, 하나의 데이터 범위, 몇 개의 읽기 도구, 명확한 승인 지점으로 시작한다. 이후 평가 결과가 쌓이면 쓰기 권한과 멀티 에이전트 구조를 단계적으로 넓힌다.

CHECKLIST

에이전트가 처리할 업무 목표를 한 문장으로 정의했는가?
모델이 해야 할 일과 하지 말아야 할 일을 지시문에 분리했는가?
도구를 읽기, 작성, 실행으로 나누고 권한을 다르게 줬는가?
메모리에 저장할 정보와 저장하지 않을 정보를 구분했는가?
사람 승인, 자동 검증, 즉시 중단 기준을 워크플로에 넣었는가?
도구 호출, 모델 판단, 승인 결과, 최종 실행을 로그로 남기는가?

Summary

AI 에이전트 아키텍처는 모델, 도구, 메모리, 워크플로, 오케스트레이션, 가드레일의 조합이다. 모델은 판단하지만 혼자 실행하지 않는다. 도구는 업무 시스템과 연결하고, 메모리는 상태를 유지하며, 워크플로는 순서를 정한다. 기업이 먼저 확인할 것은 어떤 모델을 쓸지가 아니라 어떤 도구를 열고, 무엇을 기억하고, 어디서 사람 승인을 받을지다.

AI 에이전트 돋보기 시리즈

AI 에이전트란 무엇인가: 챗봇과 다른 핵심 구조 이전 글
AI 에이전트와 생성형 AI 차이: 답변하는 AI와 실행하는 AI 이전 글
AI 에이전트 활용 사례: 리서치, 보고서, 고객 응대는 어디까지 맡길 수 있나 이전 글
업무 자동화 AI란 무엇인가: 반복 업무를 줄이는 실무 기준 이전 글
엔터프라이즈 AI 에이전트 도입 체크리스트: 데이터, 권한, 보안 이전 글 · URL 확인 필요
AI 에이전트 아키텍처: 모델, 도구, 메모리, 워크플로의 관계 현재 글
마케팅 AI 에이전트: 광고 운영 자동화는 어디서부터 시작되나 예정
AI 검색과 AI 에이전트: 검색은 왜 답변에서 실행으로 이동하나 예정
멀티 에이전트란 무엇인가: 여러 AI가 함께 일한다는 말의 실제 의미 예정
AI 에이전트 실패를 막는 법: 자동화보다 먼저 정해야 할 운영 기준 예정
AI 에이전트 보안: 기업이 맡겨도 되는 일과 맡기면 안 되는 일 예정
AI 에이전트 시대의 조직 구조: 사람의 역할은 어디로 이동하나 예정

이 블로그 검색