안녕하세요! 오늘은 AI 에이전트에게 어제 나눈 대화를 기억시키는 방법, 그 메모리 도구들을 비교해 보겠습니다. 챗봇이 매번 같은 질문을 반복하는 이유는 대화 창이 닫히면 아무것도 남지 않기 때문인데요, Mem0, Letta, Graphiti, Cognee 같은 오픈소스 메모리 도구가 이 문제를 해결하고 있습니다. 특히 Mem0는 GitHub 스타 6만 개를 돌파하며 에이전트 메모리 분야의 사실상 표준으로 자리잡았습니다. 이 글에서는 각 도구의 설계 철학과 차이점, 그리고 직접 시작하는 방법까지 정리해 보겠습니다. 함께 살펴보시죠!

"이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다."
🤖 AI 에이전트의 "기억상실" 문제란?
대규모 언어모델은 활성 컨텍스트 창 안에 있는 정보만 사용할 수 있습니다. 세션이 끝나거나 오래된 대화가 컨텍스트에서 밀려나면, 에이전트는 이전에 들었던 사용자 취향, 프로젝트 상황, 내렸던 결정들을 전부 잊어버립니다. 매번 같은 질문을 다시 하고, 같은 설명을 다시 듣고, 이전 결정과 모순되는 답을 내놓는 이유가 여기에 있습니다.
AI 에이전트 메모리 도구는 이 공백을 메웁니다. 대화에서 중요한 사실을 추출해 별도의 메모리 계층에 저장하고, 정보가 바뀌면 오래된 기억을 갱신하거나 만료시키고, 새 요청이 들어왔을 때 필요한 기억만 골라 컨텍스트에 다시 실어 줍니다. 사용자가 선호하는 답변 형식이나 프로젝트 마감일, 지난 세션에서 내린 결정이 이렇게 유지됩니다.
벡터 데이터베이스는 의미가 비슷한 기록을 찾아주는 유사도 검색 도구입니다. 하지만 메모리는 단순 검색이 아닙니다. 어떤 사실을 기억할지 판단하고, 관련 사실끼리 연결하고, 뒤집힌 정보는 오래된 쪽을 교체하고, 컨텍스트에 넣기 전에 우선순위를 매기는 과정이 필요합니다. 이 "메모리 관리" 층이 메모리 도구의 핵심 가치입니다.
💡 기억해야 할 두 가지 문제: 개인화 vs 기관 지식
메모리 도구를 고르기 전에, 내가 해결하려는 문제가 어느 쪽인지 먼저 구분하는 것이 좋습니다. 업계는 크게 두 가지로 나뉩니다.
첫째는 개인화(Personalization)입니다. 사용자가 누구인지, 무엇을 선호하는지, 지난 대화에서 무엇을 약속했는지 기억하는 문제입니다. "지난번과 같은 주소로 보내줘"라는 말이 통하려면 이 기억이 필요합니다. 상대적으로 단순한 문제입니다.
둘째는 기관 지식(Institutional Knowledge)입니다. 조직이 쌓아온 운영 지식, 거래처별 이력, 프로젝트의 의사결정 맥락처럼 시간이 지나도 유지되고 계속 자라나는 지식입니다. 구성원이 바뀌어도 에이전트가 알고 있어야 하는 정보죠. 개인화보다 훨씬 어려운 문제이고, 도구마다 어느 쪽에 무게를 두는지 설계가 갈립니다.
🥇 Mem0: 가장 널리 쓰이는 범용 메모리 계층
Mem0는 에이전트 상호작용에서 유용한 정보를 추출해 뒤의 대화에서 다시 꺼내 쓰는 오픈소스 메모리 계층입니다. 2026년 8월 기준 GitHub 스타 약 6만 4천 개로 이 분야 최다이며, Apache 2.0 라이선스입니다.
https://github.com/mem0ai/mem0
GitHub - mem0ai/mem0: Universal memory layer for AI Agents
Universal memory layer for AI Agents. Contribute to mem0ai/mem0 development by creating an account on GitHub.
github.com
Mem0의 메모리 알고리즘은 대화를 한 번 훑어 핵심 사실을 뽑아내는 단일 추출과, 개체(사람·물건·개념)를 연결하는 엔티티 링킹을 거칩니다. 검색 시에는 의미 기반, 키워드 기반, 그래프 기반 신호를 결합해 관련 기억을 찾습니다. 관리형 클라우드로 쓸 수도 있고, 자체 인프라 안에 직접 설치해 운영할 수도 있다는 점에서 도입 문턱이 낮습니다. 기존 에이전트 런타임을 바꾸지 않고 붙일 수 있다는 점도 강점입니다.
🧩 Letta: 운영체제처럼 계층화된 메모리
Letta는 상태를 가진 에이전트를 만드는 플랫폼입니다. GitHub 스타 약 2만 4천 개, Apache 2.0 라이선스입니다. 커뮤니티 비교 글들은 Letta의 구조를 "운영체제에서 영감을 받은 계층형(tiered)" 메모리로 묘사합니다. 컴퓨터가 램과 디스크를 나눠 쓰듯, 에이전트의 컨텍스트와 장기 저장소를 계층으로 나눠 관리하는 방식입니다.
https://github.com/letta-ai/letta
GitHub - letta-ai/letta: Platform for stateful agents: AI with advanced memory that can learn and self-improve over time.
Platform for stateful agents: AI with advanced memory that can learn and self-improve over time. - letta-ai/letta
github.com
Mem0가 "붙이는 메모리"라면 Letta는 "에이전트 자체가 메모리를 품은 형태"에 가깝습니다. 메모리 관리를 에이전트 프레임워크 안에서 직접 하고, 시간이 지나며 학습하고 자기 개선하는 상태형 에이전트를 지향합니다. 에이전트 런타임까지 함께 바꾸는 것이 부담이 아니라면, 개인화와 운영 지식을 아우르는 균형 잡힌 선택지로 평가받습니다.
🕸️ Zep · Graphiti: 시간 흐름을 기억하는 지식 그래프
Graphiti는 Zep 팀이 만든 오픈소스 실시간 지식 그래프 엔진입니다. GitHub 스타 약 3만 개, Apache 2.0 라이선스입니다. Graphiti 그 자체는 라이브러리이고, Zep는 이를 기반으로 한 관리형 서비스입니다.
https://github.com/getzep/graphiti
GitHub - getzep/graphiti: Build Real-Time Knowledge Graphs for AI Agents
Build Real-Time Knowledge Graphs for AI Agents. Contribute to getzep/graphiti development by creating an account on GitHub.
github.com
Graphiti의 차별점은 시간적 유효성(temporal validity)입니다. 단순히 "사실을 저장"하는 게 아니라 그 사실이 언제부터 언제까지 유효했는지를 기록합니다. "A 담당자가 거래처 X를 맡고 있다"는 사실이 바뀌면, 옛 기록을 지우는 대신 "지금은 B 담당자"라는 새 사실을 이어 붙입니다. 덕분에 "3개월 전에는 누가 담당했지?" 같은 질문에도 답할 수 있습니다. 비교 글들은 이 시간 축 처리에서 Zep 계열이 가장 강하다고 평가합니다.
🗃️ Cognee: 기관 지식에 특화된 메모리 엔진
Cognee는 에이전트용 오픈소스 AI 메모리 플랫폼입니다. GitHub 스타 약 3만 개, Apache 2.0 라이선스입니다. 그래프와 벡터를 함께 활용하는 구조로, 원본 데이터를 구조화된 지식 그래프로 바꿔 저장하는 방식에 무게를 둡니다. 커뮤니티 비교 글들은 Cognee를 개인화보다 기관 지식, 즉 축적되는 운영 지식에 강한 도구로 분류합니다.
https://github.com/topoteretes/cognee
GitHub - topoteretes/cognee: Cognee is the open-source AI memory platform for agents. Give your AI agents persistent long-term m
Cognee is the open-source AI memory platform for agents. Give your AI agents persistent long-term memory across sessions with a self-hosted knowledge graph engine. - topoteretes/cognee
github.com
문서·대화 등 원자료를 넣으면 추출-구조화-적재 과정을 거쳐 질의 가능한 지식 그래프로 만들어 주는 점이 특징입니다. 조직 단위의 지식 베이스를 에이전트에 붙이는 용도를 찾고 있다면 살펴볼 가치가 큽니다.
📊 네 도구 한눈에 비교하기
여기까지의 내용을 표로 정리해 보았습니다. 스타 수는 2026년 8월 기준 GitHub 실측 값입니다.
| 도구 | GitHub 스타 | 라이선스 | 메모리 구조 | 강점 |
|---|---|---|---|---|
| Mem0 | 약 6.4만 | Apache 2.0 | 벡터 + 그래프 결합 | 범용 개인화, 도입 편의성 |
| Letta | 약 2.4만 | Apache 2.0 | 계층형 (OS 방식) | 상태형 에이전트 프레임워크 |
| Graphiti (Zep) | 약 3.0만 | Apache 2.0 | 시간 정보 지식 그래프 | 시간 변화 추적 |
| Cognee | 약 3.0만 | Apache 2.0 | 그래프 + 벡터 | 기관 지식 축적 |
이 밖에도 시장에는 LangGraph 생태계의 LangMem, LlamaIndex의 메모리 모듈, 엔터프라이즈 전용 SuperMemory 등 선택지가 더 있습니다. 규모나 성격이 다를 뿐, 모두 같은 "에이전트의 건망증"을 치료하려는 도구들입니다.
🚀 실전: Mem0로 5분 만에 기억 붙이기
그럼 가장 대중적인 Mem0로 직접 시작해 보겠습니다. 파이썬 환경에서 몇 줄이면 됩니다.
# 설치
pip install mem0ai
from mem0 import Memory
# 기본 설정으로 메모리 초기화
m = Memory()
# 사용자 정보를 기억시키기
result = m.add(
"저는 한국어를 선호하고, 답변은 간결한 것을 좋아합니다.",
user_id="alice",
)
print(result)
# 관련 기억 검색
related = m.search("이 사용자의 언어 선호는?", user_id="alice")
for r in related:
print(r)
이렇게 저장된 기억은 다음 세션에서도 유지됩니다. 챗봇 파이프라인이라면 사용자 발화가 들어올 때마다 add로 기억을 쌓고, 답변 생성 전에 search로 관련 기억을 꺼내 프롬프트에 넣어주는 흐름이 기본 패턴입니다.
LLM 연동해서 자동 기억 만들기
Mem0는 내부적으로 언어모델을 호출해 사실 추출과 갱신을 판단합니다. 기본 설정에서는 OpenAI 모델을 쓰지만, 지난 글에서 다룬 무료 API나 로컬 모델로 교체할 수도 있습니다. 설정에서 모델과 API 키만 바꿔주면 됩니다.
🧭 그래서 내 상황엔 뭘 골라야 할까?
정리하면 선택의 기준은 세 가지 질문으로 압축됩니다.
- 기존 에이전트는 유지하고 싶은가요? 그렇다면 붙이는 방식인 Mem0가 가장 부담이 적습니다.
- 시간이 지나 바뀌는 사실이 중요한가요? 담당자 변경, 계약 갱신 같은 이력 추적이 핵심이라면 Graphiti 계열의 시간 인식 그래프가 강점입니다.
- 쌓아가는 조직 지식이 핵심인가요? 문서와 이력을 지식 그래프로 축적하는 Cognee, 또는 에이전트까지 통합해서 바꿀 여지가 있다면 Letta가 검토 대상입니다.
물론 이 분류는 어디까지나 출발점입니다. 실제로는 데이터 규모, 팀의 운영 여력, 기존 스택과의 궁합에 따라 최적이 달라지니, 작은 파일럿부터 시작해 보는 것을 권합니다.
🔗 함께 보면 좋은 글
- 🆓 Open WebUI로 나만의 로컬 AI 챗봇 만들기 - Ollama RAG 구축 가이드
- 🆓 Ollama launch로 로컬 코딩 에이전트 만들기 - Qwen3.8 3커맨드 실행법
🎯 맺음말
지금까지 AI 에이전트 메모리 도구 네 종을 비교해 보았습니다. 핵심은 에이전트가 세션을 넘어 기억하려면 사실 추출 → 저장 → 갱신 → 재주입을 관리하는 전용 계층이 필요하다는 점이었습니다. Mem0는 약 6만 4천 스타로 범용 개인화의 기본 선택이 되었고, Graphiti는 시간 흐름을 기록하는 지식 그래프, Cognee는 기관 지식 축적, Letta는 메모리를 품은 에이전트 프레임워크라는 각기 다른 강점을 가지고 있습니다.
- 문제 인식: 컨텍스트 창 밖으로 나간 정보는 사라집니다
- 도구 차이: 붙이는 메모리(Mem0)와 품는 메모리(Letta)의 접근이 다릅니다
- 시간 축: 사실의 유효 기간을 기록하는 Graphiti 방식은 이력 추적에 강합니다
- 시작법: pip 설치 몇 줄로 Mem0 파일럿을 시작할 수 있습니다
다만 어떤 기억을 남길지는 도구가 자동으로 판단하므로, 민감 데이터를 다룰 때는 기록 내용 확인과 접근 통제가 선행되어야 합니다.
여러분의 에이전트가 어떤 질문을 반복하고 있는지 한번 돌아보시고, 그중 가장 답답한 것 하나부터 오늘 소개한 도구로 기억을 붙여 보시길 바라며, 저는 다음 시간에 더 유익한 정보를 가지고 다시 찾아뵙겠습니다. 감사합니다.

📚 참고 문헌 및 출처
- Braintrust Team. (2026, August 2). Best AI agent memory tools in 2026 [Blog post]. Retrieved from https://www.braintrust.dev/articles/best-ai-agent-memory-tools-2026
- Vectorize. (2026, March 14). Best AI Agent Memory Systems in 2026: 8 Frameworks Compared [Blog post]. Retrieved from https://vectorize.io/articles/best-ai-agent-memory-systems
- Mem0 AI. (2026). mem0: Universal memory layer for AI Agents [GitHub repository]. Retrieved from https://github.com/mem0ai/mem0
- Letta AI. (2026). letta: Platform for stateful agents [GitHub repository]. Retrieved from https://github.com/letta-ai/letta
- Zep AI. (2026). graphiti: Build Real-Time Knowledge Graphs for AI Agents [GitHub repository]. Retrieved from https://github.com/getzep/graphiti
- Topoteretes. (2026). cognee: AI memory platform for agents [GitHub repository]. Retrieved from https://github.com/topoteretes/cognee
'AI 도구' 카테고리의 다른 글
| 📱 내 폰에서 무료 AI 돌리기: PocketPal AI 로컬 LLM 설치 가이드 (오프라인·프라이버시) (0) | 2026.08.25 |
|---|---|
| 🆓 Gemini 3.7 Flash 무료 API + Antigravity 무료 티어: 0원으로 AI 코딩 환경 구축하기 (0) | 2026.08.25 |
| 🆓 GPT-5부터 Gemini 3·Grok 4까지: 무료 LLM API 49곳 총정리 (2026년 8월) (0) | 2026.08.24 |
| 🔒 MCP 서버 보안 가이드: 기업 시크릿 유출 5가지 경로와 7가지 방어 원칙 (0) | 2026.08.24 |
| 🆓 TrueForge 설치·사용 가이드: Claude Managed Agents 대비 30% 저렴한 오픈소스 에이전트 하니스 (0) | 2026.08.24 |