pplx-embed-v2-late: 0.6B·9B 다국어 멀티모달 late-interaction 임베딩

2026-10-21 arXiv 제출 · ax-trend 이슈 #3448 · 멀티모달

pplx-embed-v2-late 개요 — 0.6B·9B 다국어 멀티모달 late-interaction 임베딩, 각 size class에서 검색 SOTA
pplx-embed-v2-late — 0.6B·9B 쌍, 각 size class에서 text·image·visual document retrieval SOTA

핵심 — 작은 모델이 검색 SOTA를 가져간다

학습 방식 — 18B teacher로부터 representation distillation로 하나의 공유 임베딩 공간에 증류
학습 방식 — 18B teacher의 표현을 증류해 하나의 공유 임베딩 공간에

방법 — 18B teacher의 표현을 증류해 같은 공간에 넣는다

수치 — visual document retrieval에서 0.6B가 몇 배 큰 모델과 경쟁, 체급을 뛰어넘는 성능
수치 — visual document retrieval에서 0.6B가 체급을 뛰어넘는 성능

수치 — visual document retrieval에서 0.6B가 몇 배 큰 모델과 경쟁한다

실무 처방 — 9B로 인덱싱하고 0.6B로 쿼리하는 비대칭 배포, 정확도는 유지하고 서빙 비용은 낮춘다
실무 처방 — 9B로 인덱싱, 0.6B로 쿼리. 정확도는 유지하고 서빙 비용은 낮춘다

의미 — 인덱싱과 쿼리를 분리하는 비대칭 배포가 실용적이다

# 인덱싱은 1회, 정확도 우선
index  = embed(documents, model="9B")
# 쿼리는 지속, 저지연 우선
answer = search(index, embed(query, model="0.6B"))
# 두 모델은 같은 임베딩 공간을 공유한다 (arXiv)
AX TF 관점. RAG 파이프라인에서 임베딩 교체는 모델명 하나 바꾸는 실험이라 A/B가 가장 쉬운 튜닝 축이다. 9B 인덱싱·0.6B 쿼리 조합을 현행 파이프라인에 바로 꽂아 지연·비용·품질을 실측해볼 수 있다 (이슈 배경).

아직 안 밝혀진 것 — 쿼리 지연 수치·한국어 포함 여부·라이선스

⚠️ 미확인: late-interaction 특성상 쿼리 시점 연산량이 bi-encoder보다 클 수 있는데, 지연 수치는 초록에 없다 (arXiv). 다국어 범위에 한국어가 포함되는지 미확인이다 (arXiv). 라이선스 조건은 초록에 언급이 없다 (arXiv).

원문 이슈

이 글은 ax-trend 이슈 #3448을 바탕으로 작성됐다. 핵심 링크: arXiv:2610.29523 — pplx-embed-v2-late (2026-10-21 제출).

멀티모달성능 최적화AX Trend