에이전트 메모리는 얼마나 저장하느냐보다 어떻게 정리하느냐: Anthropic 'The components of agent memory' 분석

에이전트에게 기억을 주는 가장 쉬운 방법은 전부 저장하는 것입니다. Anthropic이 2026년 11월 6일 공개한 The components of agent memory는 그 직관을 정면으로 다룹니다. 저장량보다 중요한 것은 저장한 것을 무엇으로 만들고, 어디에 두고, 언제 고치느냐라는 주장입니다.

메모리를 4층으로 나눈다

글이 말하는 메모리는 세션 사이에 Claude가 간직하는 지식입니다. 가중치 변경, 컨텍스트 내 학습, 컴팩션은 제외합니다.

층 사이를 오가며 정리하는 오프라인 작업이 글에서 말하는 dreaming입니다. 로그를 돌아보며 실수를 고치고, 노트를 쓰고, 새 표현을 만듭니다. 우리 사이트의 에이전트 기억 3층 글이 컨텍스트·세션·영속으로 나눈 것과는 기준이 다릅니다. 이쪽은 "저장물이 얼마나 가공됐는가"로 나눈 것입니다.

근거 1: 메모리 효과는 모델에 따라 다르다

CL-Bench 1.0 데이터베이스 과제의 평균 보상입니다(Anthropic 글 기준).

Sonnet 4.6은 거의 오르지 않았습니다. 글은 그 이유를 이론은 세우지만 검증하지 않는 행동으로 설명합니다. 읽고 테스트하라고 지시하자 0.364에서 0.641로 올랐습니다. 반대로 "실패만 기록하라"고 좁게 지시하면 Opus 5가 0.234 하락했습니다. 강한 모델에게는 규칙을 촘촘히 주는 것보다 메모리의 목적을 알려 주는 편이 낫다는 것이 저자들의 결론입니다.

근거 2: 위키는 검색 위에서 가장 잘 작동한다

약 35만 개 파일(약 4.2억 토큰)의 사내 코퍼스에서 25개 질문으로 시험했습니다.

• 위키만 쓰면 세션 2→128회에 13%→48%.
• 위키+검색은 54%→61%, 검색만은 53%.
• 위키+검색은 질문당 약 2만 토큰을 줄였습니다.

세션이 쌓일수록 위키가 좋아지지만, 검색을 대체하지는 못했습니다. 일부 작업에서는 이득이 불분명했습니다. 한 번의 텍스트 검색으로 풀리는 문제였기 때문입니다. 위키가 원본(115KB)의 1.77배로 불어난 사례도 보고합니다. 글은 이를 제국만큼 큰 지도에 비유합니다.

근거 3: 틀린 기억은 퍼지고, 고칠 수도 있다

포켓몬 레드 실험에서 잘못된 노트가 포켓센터 위치를 반대편으로 적었습니다. dreaming이 그 노트를 고친 뒤에는 1,935번째 행동에서 목표 도시에 도달했고, 고치지 않은 실행과 메모리 없는 실행은 도달하지 못했습니다. 계약서 요약 작업에서는 여러 에이전트가 하나의 표에 쓰면 57개 사실 중 41개(72%)만 남았고, 계약별로 페이지를 나누자 57개 전부(100%)가 남았습니다. 한 문서에는 한 명의 작성자만 두라는 권고가 여기서 나옵니다.

내 에이전트에 적용하기

글의 권고 중 바로 쓸 수 있는 것들입니다.

1. 기본 층은 트랜스크립트 검색입니다. 위키는 그 위에 얹습니다.
2. 주입 컨텍스트는 짧게 유지합니다. 글에 따르면 Claude Code는 MEMORY.md의 처음 200줄 또는 25KB만 읽습니다. 틀린 노트 한 줄이 모든 세션에 실리기 때문입니다.
3. 메모리에는 화면에서 다시 읽을 수 없는 것(전략, 계획)을 두고, 매 턴 읽을 수 있는 상태를 복제하지 않습니다.
4. 노트에는 출처와 검증 여부를 적고, 자주 바뀌는 정보부터 주기적으로 다시 확인합니다. 이 항목은 글의 dreaming 권고를 제가 일반화한 것입니다.

한계

• 벤치마크는 Anthropic이 자체 실행한 결과이며 독립 재현은 확인하지 못했습니다.
• dreaming은 연산 비용이 들고, 모든 메모리를 계속 점검하는 것은 현실적이지 않을 수 있다고 글도 인정합니다.
• 메모리를 지금 쓸지, 나중에 정리할 때 쓸지는 아직 열린 질문입니다.

결론

"많이 저장하면 낫다"는 가정은 데이터가 지지하지 않습니다. 메모리는 모델과 작업에 따라 효과가 크게 다르고, 틀린 기억은 규모를 키워 전파됩니다. 그래서 설계의 중심은 저장 용량이 아니라 작성자 분리, 짧은 주입 층, 정기적인 재검토입니다. 비슷한 논점은 Memorilla 논문의 잠재 메모리 토큰과 비교해 볼 수 있습니다. 거기서는 사람이 읽을 수 없는 메모리의 감사 문제가 따로 생깁니다.

운영 노트: 출처와 재검증을 함께 저장하기

2026년 11월 10일 공식 원문을 다시 확인했습니다. 아래 운영 설계는 연구 결과를 바탕으로 한 편집상 제안이며, 효과를 직접 측정한 결과는 아닙니다.

노트마다 원본 문서 위치, 관측 시각, 검증 상태, 대체한 노트의 식별자를 남기면 잘못된 기억을 추적하기 쉽습니다. 유효기간은 모든 노트에 똑같이 적용하기보다 가격·권한처럼 빨리 바뀌는 사실과 장기 전략을 구분해 정합니다. 만료는 자동 삭제보다 원문 재확인의 계기로 삼을 수 있습니다.

재검증 단계에서는 최근 사용한 노트와 변경 가능성이 큰 노트부터 원문과 대조하고, 수정 전 내용과 이유를 보존합니다. 검색만 쓰는 기준선과 비교할 때는 답의 정확도뿐 아니라 위키 유지 토큰, 재검증 지연, 오래된 기억을 인용한 비율도 측정해야 합니다. 35만 파일·25개 질문의 자체 평가만으로 이 운영 설계의 효과가 입증된 것은 아닙니다.

참고

• Anthropic, The components of agent memory (2026-11-06, 2026-11-07 확인)