AI 비서에게 가장 답답한 순간은 어제 한 말을 기억하지 못할 때다. “지난번에 말한 그 고객 건”이라고 했는데 처음 듣는다는 듯 답하면, 비서라기보다 매번 새로 만나는 상담원 같다.
PingCAP은 AWS Summit Japan 2026에서 “忘れないAIへ”라는 주제로 TiDB의 에이전트 메모리 구현 패턴을 소개한다고 발표했다. PR TIMES 발표에 따르면 AI 에이전트의 자율성을 위해 RAG를 넘어 단기·장기·에피소드 기억의 통합이 필요하다고 설명한다.
AI에게 기억은 왜 중요할까
챗봇은 질문에 답하면 된다. 하지만 AI 에이전트는 일을 이어서 해야 한다. 어제 조사한 내용, 지난주 결정한 조건, 사용자의 선호, 실패했던 방법을 기억해야 한다.
기억이 없으면 매번 처음부터 설명해야 한다. 사람 비서라면 말이 안 되는 일이다.
단기 기억과 장기 기억
사람도 방금 들은 내용을 잠깐 기억하는 것과, 오래된 경험을 기억하는 것은 다르다. AI도 마찬가지다.
단기 기억은 현재 대화의 맥락이다. 장기 기억은 사용자 선호나 업무 이력처럼 오래 보관할 정보다. 에피소드 기억은 특정 사건과 경험의 흐름을 남기는 것에 가깝다.
AI 에이전트가 실제 업무를 하려면 이런 기억들이 잘 연결되어야 한다.
RAG만으로 충분할까
RAG는 외부 문서를 검색해 답변에 활용하는 방식이다. 회사 문서나 매뉴얼을 참고하는 데 유용하다.
하지만 AI 비서가 “나와 함께 일하며 배운 것”을 기억하려면 문서 검색만으로는 부족할 수 있다. 대화와 행동, 피드백, 결과가 쌓여야 한다.
데이터베이스의 역할
AI 기억은 결국 데이터를 어떻게 저장하고 찾느냐의 문제와 연결된다. 어떤 정보를 남기고, 언제 꺼내고, 오래된 정보와 새 정보를 어떻게 구분할지가 중요하다.
PingCAP의 TiDB 같은 데이터 기반 기술이 AI 에이전트의 기억 구현과 연결되는 이유다.
기억하는 AI의 위험
기억력이 좋아지는 AI는 편리하지만 위험도 있다. 민감한 정보를 너무 오래 기억하거나, 잘못된 기억을 계속 참고하면 문제가 생긴다.
그래서 사용자는 무엇을 기억하게 할지, 무엇을 지울지 통제할 수 있어야 한다. 회사에서는 권한과 보안도 중요하다.
진짜 비서가 되려면
AI 에이전트가 진짜 비서처럼 일하려면 똑똑한 답변만으로는 부족하다. 맥락을 기억하고, 실수를 반복하지 않고, 사용자와 함께 배운 내용을 다음 일에 활용해야 한다.
AI 비서의 다음 경쟁은 지능만이 아니라 기억력이다. “잊지 않는 AI”가 되어야 비로소 일을 맡길 수 있다.
참고한 자료: PR TIMES PingCAP TiDB AI 에이전트 메모리 세션 발표
관련 글
같은 맥락에서 이어서 읽기 좋은 글들입니다.