UniiChat: 새 채팅 없는 영원한 하나의 대화, 메모리 트리 무한 컨텍스트와 셀프호스팅 소스
2026년 10월 19일, Victor Taelin이 오픈소스 AI 에이전트 UniiChat을 공개했다. Taelin은 Higher-order Virtual Machine(HVM)과 병렬 함수형 언어 Bend의 저자로, 상호작용망·최적 평가(optimal evaluation) 연구로 알려진 인물이다. 핵심 컨셉은 한 줄이다. "새 채팅" 버튼이 없다. 하나의 대화가 수일·수주·수년간 계속되고, 에이전트가 전부 기억한다. 호스팅 버전은 uniichat.com, 이 레포는 자기 API 키로 돌리는 셀프호스팅용 소스다.
"새 채팅" 버튼이 없다
기존 에이전트들의 표준 해법은 이렇다. 컨텍스트가 차면 요약하고, 원본을 버리는 compaction. UniiChat은 이 방식이 만드는 기억 손실을 정면으로 문제 삼는다. 대화는 하나로 이어지고, 서버가 채팅을 소유한다. 브라우저 탭이든 터미널(unii)이든 같은 대화를 실시간으로 보고, 메시지 전송·중지·모델 교체가 가능하다.
에이전트 기능은 셸 실행, 파일 읽기·편집, Mac 화면 제어(UNII_COMPUTER=1), 백그라운드 서브에이전트 스폰. Claude·ChatGPT 과거 대화(Claude Code·Codex 폴더, 웹사이트 export)의 임포트도 지원한다.
메모리 트리
구조는 단순하다. 모든 메시지를 한 줄로 요약하고, 이웃한 줄끼리 쌍으로 합치기를 반복해 이진 트리를 만든다. 매 호출마다 에이전트는 전체 대화를 최대 128KB 뷰로 본다. 최근 메시지는 한 줄씩, 오래된 건 더 적고 넓은 요약으로. 디테일은 나이와 함께 옅어지지만 아무것도 버려지지 않는다.
흥미로운 지점은 이 설계가 RAG(검색 증강)도, 무한 컨텍스트 윈도우도 아닌 제3의 해법이라는 점이다. 요약이 원본을 대체하지 않고, 원본을 가리키는 인덱스가 된다.
Zoom — 요약은 인덱스
Zoom은 트리 위의 이동 기능이다. 에이전트는 어떤 요약 줄이든 펼쳐서 그것이 만들어진 두 줄로, 최종적으로 원본 메시지까지 되돌아갈 수 있다. 과거를 버리는 compaction 없이 컨텍스트 로트(context rot)를 피하는 설계다.
실무적으로 읽으면 이렇다. 장기 실행 에이전트에서 "3주 전에 한 결정을 왜 했지?"를 묻는 순간, 요약은 답이 아니라 경로가 된다. 근거가 필요하면 줌으로 내려간다.
비용 설계: 백그라운드 컴팩터와 프롬프트 캐시
백그라운드 컴팩터가 있다. 저렴한 모델(기본값 Haiku급)이 메시지가 도착하는 대로 요약을 미리 쓴다. 그리고 뷰는 끝부분만 바뀌는 구조라 벤더 프롬프트 캐시 히트율이 높다. 장기 실행 에이전트에서 API 비용 구조를 직접 건드리는 설계다. 캐시 히트율이 곧 단가다.
이 부분은 UniiChat의 가장 실무적인 주장이다. 메모리 구조가 맞더라도, 매 호출 비용이 비싸면 장기 실행이 성립하지 않는다. 트리+캐시 친화 뷰는 메모리 문제를 비용 문제로 이어 풀어낸다.
왜 중요한지
"무한 메모리"를 계층 요약 트리+줌으로 푸는 접근은 에이전트 메모리 설계의 새 레퍼런스가 될 수 있다. 특히 요약이 원본을 대체하지 않고 가리킨다는 점이 기존 compaction과 결정적으로 다르다.
두 번째는 프롬프트 캐시 친화 설계다. 장기 실행 에이전트의 API 비용 구조에 직접 영향을 준다. 세 번째는 서버 소유 채팅 구조 — 멀티 디바이스·터미널 동시 접속을 자연스럽게 만든다. 셋 중 하나라도 장기 에이전트를 돌리는 팀이면 읽어볼 가치가 있다.
원문 이슈
이 글은 ax-trend 이슈 #3353를 바탕으로 작성됐다. 핵심 링크: GitHub — VictorTaelin/UniiChat, 발표 영상 (X, 2026-10-19), 호스팅 버전 — uniichat.com.