TypeSafe Jev Vercel 최속 채택: 출시 2주 만에 유료 팀 35% 도달 기록
핵심 사실
- Vercel이 10월 AI Gateway Production Index를 공개했다. TypeSafe AI의 디시전 모델 Jev가 출시 첫 2주 만에 유료 팀의 35.3%에 도달해 "AI Gateway 역사상 최속 채택"(fastest-adopted model in AI Gateway history)을 기록했다 (Vercel, 10/15).
- 2위 Claude Sonnet 5.5(18.1%)의 약 2배. 이어서 GPT-6 Luna 14.9%(3위), Gemini 3.8 Flash 13.2%(4위), Claude Opus 5.5 13.1%(5위) 순이다.
- 도달률은 압도적이지만 같은 기간 지출 점유율은 0.27%에 불과했다. 9월 한 달 기준으로는 토큰 1%·지출 0.15%를 차지했다.
- Jev는 9월 최다 요청 모델이기도 했다 — 반달만 운영했음에도 전체 요청 수 1위. 1주차에 써본 팀의 55.6%가 2주차에도 재사용해 리텐션 5위를 기록했다.
- "Jev is a decision model. Compared with typical language-model requests, a Jev request is faster, cheaper and uses a fraction of the tokens" — 미리 정해진 몇 가지 출력 중 하나를 고르는 구조라 토큰·비용이 일부에 불과하다 (Vercel).
- Vercel 스스로 Jev의 초기 도입 사례였다: 유해 명령 분류에 쓰던 GPT-6 Luna를 Jev로 교체했다 (TechCrunch, 10/16).
- 출시 일정: 9/15 limited release, 9/17 게이트웨이 출시.
디시전 모델이 뭐길래
Jev는 TypeSafe AI가 내놓은 디시전 모델이다. 일반 LLM처럼 자유 텍스트를 생성하지 않고 구조화된 결정(분류·선택·점수)만 출력하는 프론티어 모델 클래스다. "이 명령이 유해한가?"라는 질문에 에세이가 아니라 harmful: 0.92 같은 답 하나만 내놓는다. 선택지가 고정되어 있으니 출력 토큰이 극히 짧고, 따라서 빠르고 싸다.
이 군집은 이미 형성 중이었다. OpenAI Decisions API, Liquid의 d1-ultra, AutoTrust의 오픈 JEV-27B-VL, Cloudflare의 Clef, Jared Palmer의 Kev까지 — '판단 레이어를 분리하자'는 흐름은 있었지만, 이번 Vercel 지표는 "버즈가 실제 사용으로 이어졌는지"에 대한 첫 하드 데이터다. TechCrunch의 표현을 빌리자면 "there has been little hard data to back up the good vibes" — 이번이 그 빈자리를 채운 첫 사례다.
숫자로 본 단가 구조: 많이 쓰지만 돈은 안 쓴다
가장 흥미로운 숫자는 지출 점유율이다. 채택률 35.3%인데 지출은 0.27%. 요청 수로는 9월 1위인데 돈으로는 거의 안 보이는 모델이다. 디시전 모델의 경제 구조를 보여주는 가장 직관적인 증거다:
시장 전체의 맥락도 함께 보면 좋다. 게이트웨이 토큰의 70% 이상·지출의 약 25%는 오픈웨이트 모델이 차지하고 있고, 9월 게이트웨이 지출은 12월의 약 13배(1,180%↑)로 폭증했는데 토큰당 평균 가격은 47% 하락했다. 볼륨은 폭발하고 단가는 떨어지는 시장 — 그 속에서 Jev는 "단가를 아예 다른 차원으로 끌어내리는" 카테고리로 자리를 잡은 셈이다.
실전: 에이전트 아키텍처에 적용하기
에이전트를 만들고 있다면 이 숫자가 주는 메시지는 명확하다. 에이전트 루프 안의 판단 레이어(분류·라우팅·검증·승인)는 일반 LLM으로 돌릴 필요가 없다. 아래는 개념적인 구조 스케치다 — 각 스텝마다 모델 역할을 분리하는 게 핵심이다.
// 에이전트 루프: 역할별 모델 분리 (개념 스케치)
async function agentStep(userInput) {
// 1. 판단은 디시전 모델에 — 빠르고 싸게
const decision = await gateway.decision("jev", {
input: userInput,
choices: ["safe", "needs_review", "blocked"], // 정해진 답 중 하나만
});
if (decision.label === "blocked") return reject(decision.score);
// 2. 진짜로 '생성'이 필요한 곳에만 LLM 투입
const response = await gateway.chat("claude-sonnet-5.5", {
messages: buildMessages(userInput),
});
// 3. 결과 검증도 디시전 모델로
const verdict = await gateway.decision("jev", {
input: response,
choices: ["pass", "hallucination_risk", "policy_violation"],
});
return verdict.label === "pass" ? response : escalate(verdict);
}
// 판단 스텝(1, 3)은 토큰의 일부만 사용 → 루프 전체 비용이 구조적으로 하락
Android 개발자 관점: 온디바이스·서버 분류 작업(스팸·유해 명령·라우팅)의 단가 구조가 바뀌는 지점이다. 지금 LLM 호출로 돌리고 있는 분류 스텝이 있다면, 디시전 모델로 교체하는 순간 비용이 자릿수 단위로 떨어진다 — Vercel 자신의 유해 명령 분류 교체 사례가 그 증거다.
배경·맥락
Vercel AI Gateway는 OpenRouter 유사 통합 API로, 월 수십 조 토큰이 오가는 프로덕션 트래픽의 익명 집계 데이터다. 이 지수는 그 트래픽에서 모델별 채택·지출·리텐션을 집계한 것이다. Jev가 2주 만에 기록한 35.3%는 '출시 직후 채택 속도' 기준 역사상 최고치이고, 요청 수 1위 + 리텐션 5위(55.6% 재사용)까지 겹쳐 디시전 모델 카테고리의 PMF 신호로 읽힌다.
한편 '성공'의 정의에 따라 1위가 다르다는 점도 기억할 만하다. 지출 기준 최다 런칭은 Opus 5.5(게이트웨이 달러의 10% 이상), 리텐션 1위는 GPT-6 Luna(64.8%)였다. 채택 속도·지출·리텐션 — 세 축이 서로 다른 승자를 가리킨다는 건, 이 시장이 단일 모델이 아니라 역할별 모델 조합으로 가고 있다는 뜻이다.
주의 (미확인·쟁점): 게이트웨이 트래픽 한정 지표다. OpenAI·Anthropic처럼 자사 API로 직접 쓰는 랩은 과소집계될 수 있다는 한계를 TechCrunch와 Vercel 모두 명시했다. 0.27%라는 극단적 저지출이 무료 프로모션 기간 때문인지, 순수한 단가 구조 때문인지는 미확인 — Vercel 지수는 "published list prices" 기준 추정치라고 명시했다. "최속 채택"은 '첫 2주 도달률' 기준의 기록이다.
AX TF 관점: Jev 호환 오픈 모델(Kev 등)과 게이트웨이 지표를 계속 추적할 가치가 있다. 디시전 모델 군집이 형성되는 시점에 '우리 스택의 판단 레이어를 어디에 둘 것인가'는 아키텍처 결정 문제다 — API 의존 vs 오픈 모델 셀프호스팅의 트레이드오프를 이번 숫자를 기준선으로 삼아 검토해보자.