MeMoDecode: 메타모델 제약으로 DSL 생성의 의미 일관성을 보장하는 기법와 디코딩 시점 강제

2026-10-21 arXiv 제출 · ax-trend 이슈 #3431 · constrained decoding

MeMoDecode 개요 — Metamodel-Guided Constrained Decoding
MeMoDecode — 디코딩 시점에 메타모델 제약을 강제하는 DSL 생성 프레임워크

핵심 — 문법이 맞다고 의미가 맞는 게 아니다

MeMoDecode가 하는 일 — 3단 제약 + 롤백 재시도

3단 제약 — concrete syntax, abstract syntax, well-formedness constraints
3단 제약 — concrete syntax · abstract syntax · well-formedness constraints를 동시에 강제
롤백 재시도 — 가장 최근의 completable snapshot부터 디코딩 재개
롤백 재시도 — 불일치 감지 시 가장 최근의 completable snapshot부터 디코딩 재개

측정 결과 — +23% / +8%, 오버헤드는 modest

측정 결과 — 4개 DSL·6개 LLM(0.6B~70B), 무제약 대비 23% 향상, 문법제약 디코딩 대비 8% 향상
측정 — 네 개 DSL·여섯 개 open-weight LLM(0.6B~70B)에서 가장 높은 일관성
AX TF 관점. Android 개발자도 Gradle 빌드 스크립트나 CI 설정 같은 구조화 출력을 LLM으로 만들 때가 늘었다. 의미가 깨진 DSL을 후처리로 잡는 것보다 디코딩 단계에서 강제하면 검증 비용이 준다. 에이전트가 도구 호출 인자를 만들 때 제약 만족을 보장하는 용도로 응용할 수 있다 (이슈 배경).

아직 안 밝혀진 것 — 4개 DSL 종류·검증기 실체·꼬리 지연·코드 공개 미확인

⚠️ 미확인: 평가한 네 개 DSL의 구체 종류는 초록에 없다. sound backend verifier가 실제로 어떤 검사기인지, 어떤 DSL에 존재하는지도 미확인이다 (arXiv). retry가 반복될 때의 최악 지연 시간 같은 꼬리 성능 지표도 미확인이다 (이슈 쟁점). 코드 공개 여부도 초록에 언급이 없다 (arXiv).

배경 — 생성 뒤 검사가 아니라 디코딩 중 검사

코드 생성이나 인프라 설정 같은 DSL 출력은 문법은 맞는데 의미가 틀리면 쓸모가 없다. 기존에는 생성 뒤에 검사기를 돌리는 방식이 많았는데, 이 논문은 디코딩 시점에 메타모델 제약을 검사한다. 불일치가 생기면 완성 가능한 지점으로 롤백하는 retry라 구현이 단순한 편이다 (이슈 배경).

원문 이슈

이 글은 ax-trend 이슈 #3431를 바탕으로 작성됐다. 핵심 링크: arXiv:2610.29749 — MeMoDecode (2026-10-21 제출).

AI 코딩에이전트 모델AX Trend