AI 에이전트, 이제 '조립'이 아니라 '설계'의 시대

솔직히 말하면, 요즘 AI 에이전트 하나 제대로 굴리려면 개발자가 신경 써야 할 게 너무 많아요. 모델은 계속 바뀌고, 스트리밍·툴 콜·구조화 출력 포맷은 벤더마다 다르고, 워크플로는 중간에 실패하면 처음부터 다시 돌려야 하고, 에이전트가 실행하는 코드는 격리해야 하고, 권한은 또 어떻게 추적할 건지...

Vercel이 이 문제를 정면으로 다룬 Agent Stack을 공개했어요. 한마디로 **"에이전트 만들 때 필요한 빌딩 블록을 한 세트로 묶어서, 벤더 락인 없이 조립할 수 있게 해주는 스택"**이라고 보시면 됩니다.

이 글에서는 Agent Stack을 구성하는 7가지 핵심 요소를 실무 관점에서 정리해볼게요. 근거자료는 Vercel 공식 블로그에서 확인하실 수 있어요.

Developer building autonomous AI agent with Vercel Agent Stack on laptop screen showing AI SDK code System Abstract Visual

Agent Stack을 이루는 7가지 블록

1. AI SDK — 모델 하나로 통일된 인터페이스

각 LLM 랩은 자기만의 API를 갖고 있어요. 스트리밍, 툴 콜, 구조화 출력, 요청 스키마가 다 달라서 프로바이더 하나 추가할 때마다 통합 코드를 새로 짜야 하죠. AI SDK는 이걸 단일 인터페이스로 묶어줍니다.

// 모델만 문자열로 바꾸면 교체 끝, 코드는 그대로
import { generateText } from 'ai';

const { text } = await generateText({
  model: 'anthropic/claude-sonnet-4.6',
  prompt: '최근 배포 내역을 요약해줘.',
});

console.log(text);

플랫폼·프레임워크·모델에 종속되지 않고 텍스트·이미지·음성·비디오 생성까지 하나의 인터페이스로 다룰 수 있다는 게 포인트예요.

2. AI Gateway — 토큰을 위한 CDN

토큰은 이제 대역폭과 같은 프로덕션 의존성이에요. 문제는 프로바이더마다 키·과금·레이트 리밋이 따로 논다는 것. AI Gateway는 각 호출을 단일 엔드포인트로 라우팅하고, 프로바이더 장애 시 폴백하며, 비용·사용량을 통합 추적합니다. 프로바이더 가격 그대로, 마크업 없음, 자체 키 사용도 가능해요.

3. Workflow SDK — 에이전트 실행의 내구성

에이전트 워크플로가 깊은 단계에서 실패하면? 지금까지는 처음부터 다시 돌려야 했어요. 이미 지불한 모델 호출을 또 지불하면서요. Workflow SDK는 모든 단계를 체크포인트로 저장하고, 실패한 단계만 재시도하며, 사람·느린 API·웹훅을 기다릴 때는 일시정지 후 마지막 정상 단계부터 재개합니다.

4. Vercel Sandbox — 격리된 microVM

에이전트가 파일을 읽고, 명령을 실행하고, 코드를 쓴다는 건 곧 리뷰되지 않은 코드를 실행한다는 뜻이에요. Sandbox는 각 에이전트에게 커널·파일시스템·Docker를 갖춘 독립 microVM을 부여하고, 자격증명은 실제 서비스 호출 시점에만 주입해서 raw 토큰 노출을 막습니다.

import { Sandbox } from '@vercel/sandbox';

// 에이전트의 미검증 코드를 일회용 격리 microVM에서 실행
const sandbox = await Sandbox.create({ runtime: 'python3.13' });
await sandbox.writeFiles([
  { path: 'agent.py', content: Buffer.from(agentCode) },
]);

const result = await sandbox.runCommand('python', ['agent.py']);
console.log(await result.stdout());

5. Vercel Connect — 스코프드·단기 토큰

기존 방식은 에이전트에게 영구 토큰을 주는 거였어요. 만료도 안 되고, 어떤 사용자가 어떤 액션을 승인했는지 추적도 안 되죠. Connect는 시스템별로 한 번만 통합하면, 태스크마다 단기 토큰을 발급하고 명시적으로 허용한 권한만 부여합니다. 모든 호출이 사용자→에이전트→서비스로 감사 로그에 남아요.

6. Chat SDK — 사용자가 있는 곳으로 배달

Slack, GitHub, Linear, WhatsApp, Discord... 각 플랫폼마다 API·인증·메시지 포맷이 다르죠. Chat SDK는 어댑터를 대신 처리해서 한 번 설치하면 모든 채널에 에이전트가 배달됩니다. Slack에서 시작한 대화를 GitHub에서 이어받아도 컨텍스트가 유지돼요.

7. eve — 에이전트 프레임워크

Vercel이 1년간 수백 개 에이전트를 만들면서 발견한 **'에이전트의 형태'**를 그대로 프레임워크로 굳힌 게 eve예요.

agent/
  agent.ts              # 어떤 모델로 도는가
  instructions.md       # 누구인가
  tools/
    run_sql.ts          # 무엇을 할 수 있는가
  skills/
    revenue-definitions.md  # 무엇을 아는가
  subagents/
    investigator/       # 누구에게 위임하는가
  channels/
    slack.ts            # 어디에 사는가
  schedules/
    monday-summary.ts   # 언제 스스로 움직이는가

명령은 마크다운, 툴은 TypeScript. 내구성 실행·샌드박스·승인·배달이 이미 밑단에 깔려 있어서 에이전트 로직만 쓰면 나머지는 프레임워크가 처리합니다.

Cloud server infrastructure diagram representing AI Gateway routing tokens across multiple LLM providers Coding Session Visual

Agent Stack vs 기존 접근법 비교

항목기존 방식Vercel Agent Stack
모델 통합프로바이더마다 개별 SDKAI SDK 단일 인터페이스
라우팅·폴백직접 구현AI Gateway 자동 처리
과금프로바이더별 개별 청구통합 추적, 마크업 없음
워크플로 실패처음부터 재실행단계별 체크포인트 재개
코드 실행 격리컨테이너 직접 관리Sandbox microVM
권한 부여장기 토큰단기·스코프드 토큰 + 감사 로그
채널 배포플랫폼별 개별 통합Chat SDK 어댑터
프레임워크직접 조립eve (opinionated)

이 기술의 한계와 주의사항

  • Vercel 생태계 종속성: AI Gateway·Sandbox·Connect·Chat SDK 모두 Vercel 인프라 위에서 돌아가요. 멀티 클라우드 정책이 있는 조직이라면 이 부분이 걸릴 수 있어요.
  • Vercel Connect는 아직 public beta: Slack, GitHub, Snowflake, Salesforce, Notion, Linear만 공식 지원. 그 외 서비스는 OAuth/API로 직접 붙여야 해요.
  • eve도 public beta: 프로덕션 도입 전에 반드시 마이너 버전 변경 이력을 체크하세요.
  • 비용 구조 재점검 필요: '마크업 없음'이 곧 '싸다'는 뜻은 아니에요. 라우팅·폴백·감사 로그가 오히려 호출량을 늘릴 수 있어요.

Vercel Sandbox microVM architecture powering isolated agent code execution in cloud environment Development Concept Image

한국 개발 생태계에서의 적용 맥락

솔직히 국내 SI·스타트업 환경에서는 에이전트 인프라를 처음부터 다 깔 여력이 없는 팀이 대부분이에요. Agent Stack은 그런 팀에게 "인프라 팀 없이도 프로덕션급 에이전트를 굴릴 수 있게" 해주는 카드가 될 수 있어요. 특히 Chat SDK는 국내에서도 Slack·Discord 기반 사내 봇 수요가 많은 만큼 바로 실험해볼 가치가 있습니다.

다만 금융·공공처럼 감사 로그·데이터 레지던시 요건이 빡센 도메인이라면 Connect의 감사 로그가 요구사항을 충족하는지 먼저 검토해야 해요.

다음 단계 학습 방향

  1. AI SDK부터 시작 — 기존 코드에서 generateText 한 줄만 붙여보세요.
  2. Workflow SDK로 실패 복원 시나리오를 직접 재현해보면 가치가 확실히 체감돼요.
  3. Sandbox로 미검증 코드 실행 파이프라인을 PoC 해보세요.
  4. 마지막으로 eve 템플릿을 배포해서 전체 스택이 어떻게 맞물리는지 확인하면 됩니다.

함께 보면 좋은 글

본 콘텐츠는 신뢰할 수 있는 출처를 바탕으로 AI 도구를 활용하여 초안이 작성되었으며, 편집자의 검토를 거쳐 발행되었습니다. 전문가의 조언을 대체하지 않습니다.