A-MEM: Agentic Memory for LLM Agents

Meta info.

• Authors: Wujiang Xu, Zujie Liang, Kai Mei, Hang Gao, Juntao Tan, Yongfeng Zhang
• Paper: https://arxiv.org/pdf/2502.12110
• Affiliation: Ant Group, Rutgers Univ.
• Published: February 17, 2025
• Code: https://github.com/agiresearch/A-mem

TL; DR

LLM-based long-term memory를 위한 기억 시스템 A-MEM 제안

A-MEM: Agentic Memory for LLM Agents

• TL; DR: LLM-based long-term memory를 위한 기억 시스템 A-MEM 제안

Problem States

기존 시스템이 기억 저장 > 검색의 정형된 구조와 단순한 기능만 제공

• 유연성이 부족해서 새로운 지식을 통합할 수 없고 (workflow가 고정되었다고 표현하는데) 활용 시나리오가 고정되어 있으며, 장기 추론 능력이 없어서 기억이 발전되지 못함
• Research Question: 기억이 동적으로 업데이트되면서 구조를 유연하게 가져갈 수 있을까?

Suggestions

Zettelkasten 방식의 기억 동적 구성 및 연결 > 진화할 수 있는 시스템 A-MEM 제안

1. 노트 생성: 새로운 경험을 구조화된 노트로 저장하고 키워드, 태그, 문맥 설명등을 추가
   1. c_i : 기본 context. 대화 history
   2. t_i : timestamp. 기억이 생긴 시점
   3. K_i : keyword. llm이 알아서 생성
   4. G_i : tag. 일종의 기억 분류 카테고리 (마찬가지로 llm gen)
   5. X_i : (전반적인) 이 기억의 핵심 요약 (마찬가지로 llm gen)
   6. L_i : 연결된 기존 기억과의 관계를 나타내는 link
2. 연결(L_i) 생성: 기존 기억과 자동으로 유의한 연결 생성
   1. user가 새로운 기억 추가
   2. A-MEM은 기존 기억에서 새 기억과 관련있는 과거 기록을 검색
   3. 유사한 기억을 찾아 새로운 기억과 연결 (L_i, cosine sim., select top-k memory)
   4. (embedding은 c_i, K_i, G_i, X_i 를 concat해서 sbert 태워서 쓴다고)
   5. 새로운 기억이 기존 기억에도 자동으로 연결
3. 기억 진화: 새 기억 추가할 때마다 기존 기억 자동으로 업데이트
   1. 새 기억이 추가되더라도 과거 기억은 변하지 않음
   2. 다만 새 기억이 추가될 때 기존 기억의 X_i, K_i, G_i 만 업데이트
   3. (b를 진화라고 표현함)
4. 기억 검색: query가 들어오면 가장 관련이 높은 기억 검색

Effects

• Experiments Setup
  • Datasets: LoCoMo (최대 35-sess 대화, 7.5K규모)
  • Baselines: LoCoMo, ReadAgent, MemoryBank, MemGPT
• Results: Tab 1,2
  • A-MEM이 모든 경우에서 SOTA
    • 특히 Multi-hop reasoning과 장기기억 유지를 잘한다고 (기존대비 두배이상까지도)
  • 토큰 사용량 효율도 우수
    • LoCoMo/MemGPT: 16,900+ vs. A-MEM: 1,200~2,500 정도
  • ablation
    • (당연히) 검색할 기억이 늘어나면 성능 향상되다가 임계치에 다다르고 Fig 3
    • A-MEM 쓰면 embedding도 더 잘 나와서 (잘 모여서) 검색에도 유리함 Fig 4,5
    • 프로세스중 연결과 진화를 제거할때 성능을 봐도 제안 모델이 유익하다는 결론 Tab 2

Personal note. nrf 제안했던 내용에 딱 부합하는 (사용한 데이터셋도 조사했던 것과 같은) 연구입니다. 형식 자체는 여전히 text를 띄지만 기억이 추가되면서 변하는 부분과 변하지 않는 부분을 따로 구분해둔 게 기존 연구와 차이점이고, 삭제 개념이 따로 언급되지는 않은 것으로 보이는데, 아마 hard delete는 link때문에 안할 것 같고, 따라서 메모리가 아주 깊이 쌓이면 효율 측면에서 문제가 있을 것으로 보입니다.