AI 에이전트 메모리를 파일로 관리하며 배운 것

AI 에이전트한테 대화를 통째로 기억시켜 봤어요. 그런데 정작 필요한 순간엔 엉뚱한 걸 꺼내오더라고요. 혹시 비슷한 경험 없나요?

혼자 개발하면서 에이전트 메모리를 이런저런 방식으로 굴려봤는데, 결국 남은 건 규칙 하나예요. 파일 하나에 사실 하나만 적는다.

자동 메모리의 80%는 결국 버렸어요

대화 기록을 전부 저장해두면 똑똑해질 것 같잖아요. 직접 돌려 보니 반대였어요. 자동으로 생성된 메모리 제안 중 실제로 채택한 건 20%가 안 됐어요. 나머지 80%는 오히려 판단을 흐리는 노이즈였죠.

이유는 단순해요. 대화 원문은 그때의 맥락이지 재사용 가능한 사실이 아니에요. "지난주에 이렇게 말했다"를 검색용으로 쌓아두면, 나중에 비슷한 단어가 겹칠 때마다 엉뚱하게 딸려 나와요.

대화 원문 전체 저장 vs 사실 한 줄만 파일로 저장

파일 한 개 = 사실 한 개

그래서 방식을 바꿨어요. 메모리를 하나의 큰 저장소가 아니라 파일로 나눠서 관리해요. 규칙은 세 가지예요.

• 파일 하나엔 사실 하나만
• 맨 위에 3~4줄짜리 요약을 붙여서 검색으로 걸리게
• 자동 생성된 건 사람이 검토한 뒤에만 채택

적용해 봤더니 검색 정확도가 눈에 띄게 올라갔어요. 에이전트가 "이 파일이 지금 상황과 관련 있나"를 요약 한 줄로 빠르게 거를 수 있으니까요.

자동 생성→사람 검토→채택 또는 폐기→파일 한 개로 저장

틀린 메모리는 바로 지워요

파일이라 좋은 점이 하나 더 있어요. 사실이 바뀌면 그 파일만 열어서 고치거나 지우면 돼요. 테스트해 보면, 오래된 정보가 남아 잘못된 추천을 하는 경우가 확 줄어요.

라이프케어로그에서 준비 중인 플랜티(plan-t) 같은 작업도 이렇게 메모리를 얇게 유지하는 쪽으로 잡고 있어요. 쌓는 것보다 버리는 게 더 중요하더라고요.

정리하면

• 자동으로 다 저장하지 말고, 검토한 사실만 남기기
• 파일 하나에 사실 하나, 요약 한 줄
• 틀리면 그 파일만 지우기

메모리는 많이 쌓는 게 아니라 필요할 때 정확히 꺼내는 거예요. 오늘 에이전트 메모리 폴더를 한번 열어보고, 안 쓰는 파일부터 지워보는 건 어때요?