
[AI News] 2026년 11월 3주차 AI 트렌드 리포트: 결정 모델(Decision Model)의 표준화와 Claude Fable 5.2, Gemini 4 세대 교체
지난 7일(2026년 11월 9일16일)간 프론트엔드 및 풀스택 엔지니어링 생태계에서 공개된 결정 모델(Decision Model) 표준화 동향, 프론티어 모델 세대 교체, 자바스크립트 AI 툴킷 릴리스, MCP 참조 서버 보안 패치, 그리고 에이전트가 프론트엔드 코드를 쓸 때 참조하는…
지난 7일(2026년 11월 9일~16일)간 프론트엔드 및 풀스택 엔지니어링 생태계에서 공개된 결정 모델(Decision Model) 표준화 동향, 프론티어 모델 세대 교체, 자바스크립트 AI 툴킷 릴리스, MCP 참조 서버 보안 패치, 그리고 에이전트가 프론트엔드 코드를 쓸 때 참조하는 두 계층(디자인 시스템과 웹 플랫폼 가이드)의 공개를 정리했습니다.
💡 이번 주 핵심 요약 (3줄 요약)
- 결정 모델이 프레임워크 공통 프리미티브로: 11월 11일 Google이
gemini-decision-1기반 Gemini Decisions API를 공개했고, 같은 날 LangChain이@langchain/core/decisions의BaseDecisionModel을 내놓았습니다. 텍스트를 생성하는 대신 타입이 있는 질문에 확률로 답하는 계층이 도구 선택·라우팅·정책 검사의 표준으로 자리 잡고 있습니다.- 프론티어 모델 세대 교체: 11월 9일 Anthropic이 Claude Fable 5.2와 Mythos 5.2를, 11월 10일 Google이 Gemini 4 Carbon을 공개했습니다. 두 곳 모두 코딩·에이전트 워크플로를 전면에 내세우며 가격과 지연을 함께 조정했습니다.
- Vercel AI SDK 7.0.168~7.0.173 안정화 패치:
useChat메시지 큐, Zod Mini 기반 번들 축소, 도구 오류 텍스트 노출 제어(redactToolErrors),WorkflowAgent의toolApproval·타임아웃 설정이 추가되었습니다.
1. This Week in Releases (주요 릴리스 소식)
1.1 결정 모델(Decision Model)의 표준화: Gemini Decisions API와 LangChain decisions
Google DeepMind가 11월 11일 Gemini Decisions API를 공개했습니다. gemini-decision-1 모델은 텍스트를 토큰 단위로 생성하는 대신, 주어진 후보 선택지를 한 번의 순전파로 채점해 확률과 신뢰도를 돌려줍니다.
- 입력과 질문 구조: 텍스트·이미지·오디오·비디오·PDF를 하나의
input으로 받고, 요청 하나에 최대 1,000개의 독립 질문을 묶어 보냅니다. 컨텍스트는 262,144 토큰이며, 공유 입력은 질문 수와 무관하게 요청당 한 번만 과금됩니다. - 질문 타입:
noul(예/아니오),choice(2255개 선택지),1 신뢰도가 붙습니다. 질문끼리는 서로를 볼 수 없어 각각 독립적으로 채점됩니다.score(순서형 루브릭) 세 가지이며, 모든 답변에 0 - 가격과 지연: 입력 100만 토큰당 0.10달러이고 출력 토큰은 과금하지 않습니다. Google이 제시한 종단 지연은 150~250ms 수준입니다.
- 연동:
google-genai3.2 이상에서client.decisions.create()로 호출하며, LangChain·Vercel AI SDK·LiteLLM·OpenRouter·Pydantic AI 통합이 함께 배포되고 있습니다. 현재v1beta이며 Vertex AI 지원은 예정 상태입니다.
같은 날 LangChain은 @langchain/core 1.4.0에서 결정 모델 계층을 추가했습니다.
@langchain/core/decisions:BaseDecisionModel은 텍스트·메시지·JSON 상태에 대해Noul(예/아니오),Choice,Score,Box질문에 답하는Runnable입니다. 질문에서 답변 타입이 추론되고, provider가 질문을 비워 두거나 타입·라벨을 틀리게 주면 응답을 거부합니다.@langchain/typesafe0.1.0:TypeSafeClassifier가BaseDecisionModel구현으로 옮겨졌습니다. 질문을 생성자가 아니라 요청에 넘기고(invoke({ state, questions })), 토큰 사용량이usage_metadata로 바뀌는 호환성 깨짐이 있으므로 마이그레이션 계획이 필요합니다.- 보안 패치 동반: 두 패키지 모두 Zod 4.6.6 이상을 요구해 GHSA-mrhx-c7xc-m3w5 영향을 받는 버전을 배제합니다. Zod v3 스키마는
zod/v3엔트리로 계속 지원됩니다.
성능은 벤더 주장과 독립 측정이 갈립니다. 11월 13일 Artificial Analysis Decision Index v2에서 Gemini Decision 1은 66.0으로 22개 모델 중 12위, 기존 TypeSafe Jev 1.14는 66.2로 11위였습니다. 과제당 비용은 100만 과제 기준 Gemini가 345달러, Jev가 156달러였고, 평균 지연은 211ms 대 92ms였습니다. 정확도는 대등하지만 비용과 지연에서는 기존 모델이 앞선다는 뜻이므로, 도입 전 자체 라벨 데이터로 비교하는 편이 안전합니다.
1.2 프론티어 모델 업데이트: Claude Fable 5.2 / Mythos 5.2와 Gemini 4 Carbon / Hydrogen
Anthropic — Claude Fable 5.2 / Mythos 5.2 (11월 9일)
- 속도와 가격: 출력 생성 속도가 이전 세대보다 최대 30% 빨라졌고, 가격은 100만 토큰당 입력 8달러·출력 40달러로 5.1 세대보다 20% 낮아졌습니다. fast 모드를 켜면 토큰 생성이 최대 2.5배 빨라지며 입력 16달러·출력 80달러가 적용됩니다.
- 모델 구성: Fable과 Mythos는 동일한 기반 모델이고, Fable은 사이버·생물 안전장치를 유지해 전체 공개되며 Mythos는 검증 프로그램 참여 조직에만 열립니다. 안전장치는 5.1과 같은 수준이면서 불필요한 차단이 줄었고, 증류 공격 방어가 강화되었습니다.
- SDK 반영:
anthropic-sdk-typescript1.7.0에claude-fable-5-2,claude-mythos-5-2모델 ID가 추가되었습니다. - 사용 지침: Anthropic은 대부분의 코딩·지식 작업에는 Opus 5.5를 기본으로 쓰고, 작업 복잡도에 따라 위로는 Fable·Mythos, 아래로는 Sonnet·Haiku 5.5로 옮기라고 권고했습니다.
- 제품 확장: 같은 주에 Claude Whiteboards·Sheets·Data가 공개(11월 10일)되고 Claude Meetings가 베타로 시작(11월 12일)되어, 회의·문서 작업 쪽 제품 범위도 넓어졌습니다.
Google — Gemini 4 Carbon (11월 10일)과 Gemini 4 Hydrogen (11월 12일)
- Gemini 4 Carbon: 1M 토큰 컨텍스트와
low·medium·high사고 수준을 지원하는 프론티어 모델입니다. Google은 CursorBench 4.0, Perplexity WANDR, Zapier AutomationBench에서 1위를 기록했고 경쟁 모델 대비 과제당 비용이 2배 이상 낮다고 밝혔습니다. 가격은 11월 30일까지 입력 2달러·출력 10달러이며, 12월 1일부터 입력 4달러·출력 20달러가 적용됩니다. /swarm프리뷰: Antigravity에서 하나의 프롬프트를 여러 에이전트 팀으로 나눠 병렬 워크스페이스에서 실행하고, 변경마다 적대적 검증자를 붙이는 구조를 제공합니다. 설계·조정·감사에는 Carbon을, 병렬 작업에는 가벼운 모델을 배치하는 방식입니다.- Gemini 4 Hydrogen: 일상적인 코딩과 디버깅, 대화형 웹 개발에 맞춘 모델로, 네 단계 사고 수준을 지원하고 Carbon·Argon과 함께 쓰이도록 설계되었습니다. Google은 지시 준수와 허위 주장 감소를 강조했습니다.
- Orchestrator: Carbon과 Hydrogen 사이를 한 트레이젝션 안에서 양방향으로 넘기는 동적 라우팅 방식입니다. Carbon이 읽기 전용으로 계획을 세우고 Hydrogen이 편집과 테스트를 맡다가, 막히면 다시 Carbon으로 돌아가는 구조이며 Terminal-Bench 4.1에서 Carbon에 가까운 성공률을 유지하면서 평균 쿼터를 24% 덜 쓰고 19% 더 빨랐다고 Google은 밝혔습니다.
1.3 Vercel AI SDK 7.0.168 ~ 7.0.173 (11월 10일 ~ 13일)
이번 주 패치는 기능 추가보다 에이전트 UI의 성능·안정성 결함을 정리하는 데 집중되었습니다.
useChat메시지 큐 (7.0.168): 응답이 진행 중일 때 보낸 메시지를experimental_queue로 대기시키고, 도구 승인이 먼저 전송되어도 원래 요청 옵션을 유지하며sendAutomaticallyWhen이 비동기로 판단하는 동안 큐를 붙잡습니다(7.0.169).- 번들 축소 (7.0.169): 내부 검증 스키마를 Zod Mini로 교체했습니다. 공개 메시지 스키마의 Zod 메서드와 오류 메시지, Zod 3·4 호환성은 그대로 유지됩니다.
- UI 메시지 검증 메모리 방어 (7.0.171):
validateUIMessages가 잘못된 파트마다 모든 파트 스키마의 오류를 쌓아 소량 요청으로도 메모리를 고갈시킬 수 있던 문제를, 파트 타입별 1회 검사와 첫 오류 중단으로 바꿨습니다. - 스트리밍 CPU 최적화 (7.0.170):
Output.array와streamObject가 청크마다 누적 배열 전체를 재검증하던 로직을 완료 원소 단위 증분 파싱으로 교체했습니다. - 도구 오류 텍스트 표면화 (7.0.171): 실패한 도구 호출의 오류 텍스트를 모델이 받은 그대로 UI 메시지에 유지합니다. 이전에는 클라이언트에 "An error occurred."로 치환되어,
convertToModelMessages로 되돌릴 때 모델이 받은 내용과 달라져 Anthropic 계열에서 400 오류가 발생했습니다. 클라이언트에 상세를 숨기려면redactToolErrors: true를 사용합니다. - 실험 API의 다운로드 정책 (7.0.172):
experimental_extract·experimental_decide에서 원격 파일 URL은 명시적experimental_download훅을 요구합니다.createDownload({ fetch })에 DNS 검증 트랜스포트를 넘기는 방식이 권장됩니다. WorkflowAgent제어 (7.0.173): 생성자와 호출 단위로toolApproval을 받고,{ totalMs, stepMs, firstChunkMs, chunkMs }형태의 타임아웃 객체를 지원합니다.prepareStep결과도ToolLoopAgent와 같게 동작하도록 정렬되었습니다.
1.4 modelcontextprotocol/servers v2.4.0: 참조 MCP 서버 보안 패치 (11월 11일)
Anthropic의 참조 MCP 서버 모음이 서버 3종의 취약점 6건을 고치는 보안 릴리스를 배포했습니다. 에이전트에 로컬 파일·저장소·웹을 연결해 쓰고 있다면 이번 주에 반드시 버전을 올려야 합니다.
@modelcontextprotocol/server-filesystem2.3.0: 읽기 도구가 검사한 디렉터리를 기준으로 파일을 열도록 바꿔, 검사와 읽기 사이에 디렉터리가 심볼릭 링크로 교체되는 경쟁 조건을 막았습니다. FIFO·소켓·디바이스는 읽지 않고 거부하며,move_file도 검사한 원본만 이동합니다. Windows에서는 경쟁 조건이 좁혀지지만 완전히 닫히지는 않습니다.mcp-server-git2026.11.11: 저장소의.git/config에 적힌core.fsmonitor,diff.external, 훅, 필터·머지 드라이버 때문에 읽기 전용 호출이 서버 권한으로 임의 프로그램을 실행할 수 있던 문제를 막았습니다. 모든 Git 명령이 해당 설정을 덮어쓰며, 덮어쓰기를 무시하는 Git 2.31 미만은 거부합니다.mcp-server-fetch2026.11.11: IPv6 사이트 로컬 대역(fec0::/10)을 공인 주소로 판정하던 가드를 수정했고, robots.txt 규칙을 사이트가 실제로 해석할 경로로도 대조해//private같은 우회를 차단했습니다.- 업그레이드 주의: TypeScript 서버들이 날짜 버전에서 시맨틱 버전으로 옮겨가면서 패키지 관리자가 2.3.0을 이전 날짜 버전보다 낮게 판단합니다.
npm install @modelcontextprotocol/server-filesystem@2.3.0처럼 버전을 명시해 설치해야 합니다.
2. Weekly Trending Repo (이번 주 급상승 오픈소스)
GitHub 주간 트렌딩(2026년 11월 16일 집계)에서 이번 주 가장 빠르게 성장한 저장소 중 실무 연관성이 높은 네 곳을 골랐습니다. 마지막 두 곳은 디자인 시스템과 웹 플랫폼 표준이라는 서로 다른 계층에서 에이전트의 코드 생성을 유도하는 도구이므로, 함께 읽으면 역할 분담이 분명해집니다.
2.1 vercel-labs/agent-browser (이번 주 +4,217 stars)
- 저장소: vercel-labs/agent-browser (Rust, Apache-2.0, 51,610 stars)
- 최근 릴리스: v0.42.0(11월 10일), v0.43.0(11월 12일)
- 핵심 특징:
- 에이전트가 한 번에 명령 하나씩 브라우저를 조작하는 네이티브 Rust CLI입니다.
snapshot이 페이지를@e1같은 참조가 붙은 압축 텍스트(접근성 트리)로 돌려주고, 에이전트는 참조로 명령을 실행한 뒤 다시 읽어 결과를 확인하는 루프를 돕니다. - 첫 명령에서 백그라운드 데몬이 뜨고 브라우저를 계속 유지하므로 단계마다 짧은 셸 호출만 발생합니다. 세션마다 데몬과 브라우저가 분리되고, 명령이 한 시간 없으면 상태를 저장한 뒤 종료합니다.
- 실행 중인 Chrome에
--cdp·--auto-connect로 붙거나, Lightpanda·Obscura 엔진, iOS 시뮬레이터의 Mobile Safari, Browserbase·Browserless·Browser Use 같은 클라우드 브라우저로 대상을 바꿀 수 있습니다. - CLI 버전에 맞는 스킬 문서를
agent-browser skills get core로 에이전트에 공급하고,npx skills add vercel-labs/agent-browser로 에이전트 하네스에 설치할 수 있습니다.
- 에이전트가 한 번에 명령 하나씩 브라우저를 조작하는 네이티브 Rust CLI입니다.
- 실무 활용: 로컬 개발 서버의 UI 회귀 확인이나 폼 제출·로그인 같은 E2E 탐색을 에이전트에 맡길 때, 좌표 기반 자동화보다 토큰 소모가 적고 실패 원인이 분명합니다.
2.2 anthropics/skills (이번 주 +6,077 stars)
- 저장소: anthropics/skills (Python, 195,348 stars)
- 핵심 특징:
- 스킬은 지침·스크립트·리소스를 폴더로 묶어 Claude가 필요할 때 동적으로 불러오는 단위이며, 각 스킬은
SKILL.md에 지침과 메타데이터를 담는 자기완결 구조입니다. spec/에 Agent Skills 명세,template/에 스킬 템플릿이 있고, Claude의 문서 기능을 실제로 구동하는 docx·pdf·pptx·xlsx 스킬도 Apache-2.0으로 공개되어 있습니다. 저장소의 모든 스킬이 같은 라이선스는 아니므로 도입 전 확인이 필요합니다.- Claude Code에서는
/plugin marketplace add anthropics/skills후document-skills또는example-skills플러그인으로 설치합니다.
- 스킬은 지침·스크립트·리소스를 폴더로 묶어 Claude가 필요할 때 동적으로 불러오는 단위이며, 각 스킬은
- 실무 활용: 사내 코드 컨벤션, 리뷰 규칙, 배포 절차를
SKILL.md한 장으로 패키징해 여러 에이전트에 동일하게 적용하는 방식의 레퍼런스로 쓸 수 있습니다.
2.3 meta/astryx
- 저장소: meta/astryx (TypeScript, MIT, 29,049 stars, Beta)
- 최근 릴리스: v0.7.13(11월 10일)부터 v0.7.16(11월 14일)까지 닷새 사이에 네 번의 패치가 나왔고, 모든
@astryxdesign/*패키지가 같은 버전으로 함께 배포됩니다. - 핵심 특징:
- Meta 안에서 8년간 자란 디자인 시스템을 MIT로 공개한 것입니다. 페이스북·인스타그램·WhatsApp 등 13,000개 이상 앱을 구동하며 검증됐고, 150개 이상의 접근성 컴포넌트와 일곱 가지 기본 테마, 페이지 템플릿을 함께 배포합니다. React 19 이상을 전제하며 빌드 플러그인 없이 미리 빌드된 CSS를 임포트하는 방식입니다.
- 스타일링 종속이 없습니다. 내부 스타일은 StyleX로 작성했지만 소비자에게는 드러나지 않습니다. 프로젝트가 이미 쓰는 Tailwind, CSS Modules, 일반 CSS 어느 쪽이든
className으로 덮어쓸 수 있고, 테마는defineTheme({ extends, ... })로 CSS 커스텀 프로퍼티를 갈아끼우는 구조라 컴포넌트 소스를 포크하거나 래핑하지 않고 브랜드화할 수 있습니다. 더 깊이 들어가야 할 때는swizzle이 컴포넌트 소스 전체를 프로젝트로 꺼내 줍니다. - 에이전트가 읽는 표면을 제품의 일부로 둡니다.
@astryxdesign/cli의init이 컴포넌트 인덱스를AGENTS.md·CLAUDE.md에 써 넣고,component·docs·template·theme명령이 같은 문서를 온디맨드로 돌려줍니다. 출력은--detail brief|compact|full과--dense,--json으로 조절되고,manifest --json은 명령·플래그·응답 타입·종료 코드를 담은 자기서술 매니페스트를 내놓습니다. CLI가 스크래핑 대상이 아니라 계약이라는 뜻입니다. 문서 사이트는 컴포넌트 문서를 MCP(Streamable HTTP) 서버로도 노출하며,search가 압축된 브리프를,get이 전체 문서와 예제를 돌려줍니다(브리프 1건당 약 1.5K 토큰). - Vibe Tests로 API를 측정해서 고칩니다. 매일 밤 같은 프롬프트 배터리를 네 구성(Astryx, Astryx+Tailwind, shadcn/Tailwind 베이스라인, 순수 HTML)에 던지고, 코드를 만든 에이전트가 스스로를 평가하지 않도록 별도 judge 에이전트가 정확성·접근성·코드 품질·효율성·유지보수성·디자인(진행 중) 여섯 축으로 채점합니다. 이 기록이 실제 API 결정을 바꿨습니다.
Accordion을CollapsibleGroup으로 개명해 발견성이 5점 만점에 3.5에서 4.7로 올랐고, AI가 생성한 코드에는 StyleX 전용xstyle보다className이 더 나은 오버라이드 수단임을 확인했으며, 요소당 스타일 결정 수는 약 1.7로 순수 Tailwind의 약 2.3보다 낮습니다. - 제약을 API에 새깁니다. props는
variant,size처럼 유한한 타입으로 선언되고,Button의label처럼 접근성에 필요한 값은 선택이 아니라 필수입니다. 자유로운 조합 대신 정해진 선택지를 주는 방식으로 에이전트가 틀릴 여지를 줄이고, 그래도 없는 기능이 필요하면npx astryx gap-report로 미지원 패턴을 보고하게 합니다. 환각으로 흘리지 않고 리포트로 남기는 쪽을 택한 것입니다.
- 실무 활용: 사내 디자인 시스템에 에이전트용 계약(문서 인덱스, 자기서술 매니페스트, 제약 기반 props)을 붙이는 작업의 참고 사례입니다. 다만 아직 Beta(0.x)이고 React 19 이상을 전제하므로, 도입 판단은 자체 컴포넌트로 같은 프롬프트 배터리를 돌려 비교하는 편이 안전합니다. 공개 스코어카드에는 베이스라인이 더 많은 밤을 이긴 기록도 그대로 남아 있습니다.
2.4 GoogleChrome/modern-web-guidance-src (배포 저장소 GoogleChrome/modern-web-guidance)
- 저장소: GoogleChrome/modern-web-guidance-src (TypeScript, Apache-2.0, 7,397 stars). 실제로 설치하는 대상은 배포 저장소 GoogleChrome/modern-web-guidance이고, 소스 저장소는 가이드를 저작·보정·평가하는 코드를 담습니다. 코드는 Apache-2.0,
guides/아래 가이드 본문은 CC BY 4.0입니다. - 최근 릴리스: 배포 저장소가 11월 10일 v1.0.0에 도달했습니다. 11월 2일 0.0.197까지 주 단위 0.0.x 패치를 이어 오다 1.0으로 올라선 것입니다.
- 핵심 특징:
- Google Chrome, Microsoft Edge, Mozilla Firefox, MDN 팀이 함께 관리(steward)합니다. 특정 벤더의 이익이 아니라 플랫폼 표준 쪽에서 나온 도구라는 점이 성격을 결정합니다.
- 목적은 코딩 에이전트가 학습 데이터에 흔한 레거시 자바스크립트와 폴리필로 되돌아가는 습관을 끊는 것입니다. View Transitions, CSS Anchor Positioning,
popover,field-sizing: content,:user-invalid,scheduler.yield, INP 진단, Passkeys, 온디바이스 Built-in AI까지 250개 기능과 203개 실무 유스케이스를 가이드로 제공합니다. - 설치:
npx modern-web-guidance@latest install이 대화형 위저드를 띄우고, Vercel Skills CLI(npx skills add GoogleChrome/modern-web-guidance),gh skill install, Claude Code 플러그인 등 여러 하네스를 지원합니다. 설치되는 스킬 지침 자체는 205토큰 안팎으로 얇게 유지합니다. - 동작: 에이전트가
search "animate a dialog modal backdrop"로 후보를 찾고,retrieve로 해당 가이드 하나만 컨텍스트에 넣습니다. 검색은 네트워크 호출도 API 키도 없는 오프라인 임베딩 모델과 BM25로 돌고, npm 패키지가 의존성 없이 자기완결이라 지연과 공급망 위험이 함께 줄어듭니다. 가이드는 eval을 거쳐 모델이 이미 아는 상투적인 내용을 덜어내 토큰 효율을 맞춥니다. - 안정성 게이트: Origin Trial API나 최근 3개월 안에 한 엔진에만 들어간 불안정 기능은
search에는 뜨지만retrieve에서 막힙니다. 개발자가set-allow-origin-trials,set-allow-volatile-features로 명시적으로 허용하기 전에는 에이전트가 그 API를 코드에 넣지 못합니다. legacy-scan은 이미 있는 코드에서 레거시 패턴을 찾아 현대화 후보를 뽑습니다.npx modern-web-guidance@latest legacy-scan .으로 실행합니다.
- 실무 활용: 신규 화면을 에이전트에 맡길 때 "라이브러리를 하나 더 깔지 말고 플랫폼 API로 풀라"는 방향을 잡아 주는 얇은 계층입니다. 설치 수, 호출한 에이전트 이름, 가이드 ID, 에이전트가 만든 검색어를 익명 수집하므로(원문 프롬프트는 수집하지 않습니다), 사내 정책상 필요하면 환경 변수
DISABLE_TELEMETRY=1로 끕니다.
두 저장소는 같은 문제를 서로 다른 계층에서 풉니다. Astryx는 "이 화면을 어떤 컴포넌트로 조립할 것인가"라는 질문에 답하는 디자인 시스템 계층이고, Modern Web Guidance는 "그 컴포넌트가 아닌 나머지를 어떤 플랫폼 API로 채울 것인가"라는 질문에 답하는 표준 계층입니다. 디자인 시스템이 컴포넌트 계약과 테마를 쥐고, 레이아웃·전환·폼 검증·성능 같은 부분은 브라우저가 이미 제공하는 API로 채우는 식으로 나누면 두 지침이 서로 충돌하지 않고 각자의 층에서 답을 냅니다. 두 도구 모두 "모델이 알아서 잘하겠지"에 기대지 않고 문서 인덱스, 제약, 평가라는 세 가지 수단으로 결과를 통제한다는 점도 같습니다.
3. Engineering Tip: experimental_decide로 생성 전에 라우팅을 판정하기
이번 주 결정 모델 소식은 프론트엔드에 곧바로 쓸 수 있는 패턴을 하나 제공합니다. 채팅 요청마다 비싼 생성 모델을 먼저 호출하는 대신, 값싼 결정 모델로 의도와 도구 필요 여부를 먼저 판정하고 분기하는 구조입니다. Vercel AI SDK는 이 계층을 experimental_decide로 노출합니다.
// app/api/assistant/route.ts
import { google } from '@ai-sdk/google';
import { experimental_decide } from 'ai';
export async function decideRoute(question: string, pageUrl: string) {
const { answers, usage } = await experimental_decide({
model: google.decisionModel('gemini-decision-1'),
state: { question, page: pageUrl },
questions: {
needsDocs: {
type: 'boolean',
instructions: '이 질문에 답하려면 사내 문서 검색이 필요한가?',
criteria: {
true: '문서에만 있는 최신 정보가 필요하다',
false: '일반 지식만으로 답할 수 있다',
},
},
intent: {
type: 'choice',
instructions: '요청의 성격을 하나 고르시오.',
criteria: {
code: '코드 생성·수정·리뷰',
explain: '개념 설명',
smalltalk: '인사나 잡담',
},
},
},
});
// boolean 답변은 참일 확률(probability)을 담습니다.
const docProbability = (answers.needsDocs as { probability: number }).probability;
const { choice, probabilities } = answers.intent;
// 0.5~0.7 구간은 어느 쪽도 확신이 아니므로 생성으로 넘기지 않고 되묻습니다.
if (docProbability > 0.5 && docProbability < 0.7) {
return { action: 'clarify' as const, usage };
}
return {
action: docProbability >= 0.7 ? ('retrieve' as const) : ('direct' as const),
intent: choice,
intentConfidence: probabilities?.[choice] ?? null,
usage,
};
}이 판정 결과를 받아 retrieve일 때만 검색 도구를 붙이고, direct일 때는 생성 모델을 바로 호출하면 됩니다. 판정 자체는 입력 100만 토큰당 0.10달러에 출력 과금이 없고 지연이 150~250ms 수준이라, 전체 생성을 한 번 아끼는 것만으로 비용이 상쇄됩니다.
도입 전에 확인할 세 가지
- 임계값은 보정해서 씁니다. 확률은 모델이 학습한 분포일 뿐 정답 보장이 아닙니다. 자체 라벨 데이터로 Brier score와 구간별 정확도를 확인하고, 애매한 구간은 사람 검토나 되묻기로 돌리는 편이 안전합니다.
- 확률의 정의가 provider마다 다릅니다. Gemini Decisions API 문서 기준
noul확률은 0.01~0.99 사이로만 반환되므로 "0.99 초과" 조건은 성립하지 않습니다.choice는 해당 선택지가 없어도 확률을 선택지들에 분배하므로, 범위 밖 입력은 별도noul질문으로 걸러야 합니다. Anthropic 어댑터는 구조화 출력을 쓰기 때문에choice·score에 확률 분포가 없고boolean도 프롬프트로 추정한 P(true)입니다. 게이트를 다른 provider로 옮길 때 임계값이 그대로 유효하다고 가정해서는 안 됩니다. - 실험 API라는 점을 전제로 설계합니다.
experimental_decide와 결정 모델 명세는 패치 릴리스에서 바뀔 수 있습니다. 판정 호출을 별도 모듈로 분리하고, 실패 시 생성 모델 단독 경로로 폴백하는 구조를 처음부터 넣어 두는 편이 좋습니다.
4. 마치며 & 다음 주 관전 포인트
이번 주의 공통된 방향은 "판정과 생성을 분리하는 것"이었습니다. Gemini Decision 1, LangChain의 BaseDecisionModel, AI SDK의 experimental_decide가 모두 같은 모양(질문 맵 + 확률 + 신뢰도)으로 수렴했고, 프론티어 모델들은 더 비싼 모델을 항상 쓰지 않도록 Carbon·Hydrogen, Fable·Opus 같은 계층 구조와 동적 라우팅(Orchestrator)을 제품 기본값으로 밀고 있습니다. 프론트엔드에서도 채팅 UI를 만드는 일보다, 어떤 요청을 어떤 모델·도구로 보낼지 결정하는 계층을 설계하는 일이 비중을 늘리고 있습니다.
지난 리포트에서 예고한 WebContainer와 로컬 웹 에이전트 결합 아키텍처는 분량 관계로 다음 주로 넘겼습니다. 대신 이번 주 트렌딩에서 확인된 것처럼 에이전트가 브라우저를 직접 다루는 도구 계층(agent-browser)이 빠르게 자리 잡고 있으므로, 다음 주에는 그 도구 계층과 로컬 개발 환경을 잇는 구성과, 이번 주에 나온 MCP 서버 보안 이슈의 실무 대응을 함께 다루겠습니다. 궁금한 점이나 다뤄줬으면 하는 라이브러리가 있다면 댓글로 의견 남겨주세요!