코딩 에이전트에 '내 것'인 기억을 심다

코딩 에이전트를 바꿀 때마다, 혹은 다른 컴퓨터로 옮길 때마다 지난 세션의 판단과 맥락이 통째로 사라집니다. Hugging Face에 공개된 David Corvoysier의 ‘funes’는 이 문제를 ‘내가 소유하는 기억 계층’으로 풉니다 — 에이전트의 세션 기록을 로컬에 색인해, 여러 에이전트와 기기를 넘나드는 검색 가능한 기억으로 만듭니다.

"리콜(recall) 기반 기억은 한 작업에서 직접 작성한 인수인계보다 8배, 다른 작업에서는 4배 저렴했다."David Corvoysier, Hugging Face

왜 중요한가

설계의 요점은 ‘로컬 우선(local-first)’과 ‘소유’입니다 — 임베딩과 리랭킹이 클라우드가 아니라 사용자 기기에서 돌고, 기억은 기본값이 비공개인 Hugging Face 데이터셋으로 사용자가 완전히 소유합니다. Claude Code, Codex, pi, Hermes 등 여러 에이전트가 같은 기억을 공유하므로, 도구를 갈아타도 그동안 쌓인 판단이 따라옵니다. 8배·4배라는 비용 절감은 부수 효과가 아니라, 인수인계 문서를 매번 다시 쓰던 낭비를 없앤 결과입니다.

실무 적용

구조는 실용적입니다 — ML 런타임 의존성 없이 curl로 단일 바이너리만 설치하고, 추가·불변(append-only)인 Lance 데이터셋에 벡터와 BM25를 결합한 하이브리드 검색 위에 크로스 인코더 리랭킹을 얹었습니다. 에이전트는 recall 도구로 관련 세션을 스스로 끌어오고, 사람은 ask로 직접 질의합니다. 색인 전 자격증명을 자동 삭제(redaction)하고 새 세션만 증분 색인하므로, 팀은 민감정보 유출 걱정 없이 ‘기억’을 자산으로 쌓을 수 있습니다.

교차 참고

• Hugging Face: How Much Memory Does Your Agent Actually Need? — 에이전트에게 필요한 기억의 ‘양’을 따져, 무엇을 남기고 무엇을 버릴지 설계 기준을 제시합니다.
• Hugging Face: huggingface_hub v1.0 — 기억을 Hub 데이터셋으로 소유·이식한다는 funes의 전제를 뒷받침하는, 데이터 소유·이동성의 기반을 정리합니다.

Wemeet의 관점

Wemeet은 AI 에이전트의 진짜 경쟁력이 모델 성능보다 ‘축적된 맥락’에 있다고 봅니다 — 세션마다 처음부터 다시 시작하는 팀과, 지난 판단을 소유하고 재사용하는 팀의 격차는 시간이 갈수록 벌어집니다. 벤더에 종속되지 않고 내가 소유하는 기억을 설계하는 것 — 그것이 에이전트를 도구에서 동료로 바꿉니다.