AI 에이전트에 메모리를 더 많이 주면 더 똑똑해질까?

문제LLM 에이전트는 세션 종료 시 작업 이력을 잃어 같은 추론을 반복하고 토큰/시간을 낭비한다. 메모리를 더 주면 똑똑해질지가 검증 안 됐다.

접근인포그랩이 Claude Code 에 L1 claude-mem 세션 캐시 / L2 Auto Memory 기본 / L3 외부 저장소(Vault KV, Milvus, Mem0) 3계층을 구성해 약 2,650회 실험. 정확도/토큰 절감을 파일럿과 2,400회 확장 실험에서 측정.

결과세션 캐시만 단독으로 추가하면 정확도가 78.2% 향상되지만 외부 저장소를 더하면 제한적이거나 오히려 저하. 관련성 없는 과거 이력이 컨텍스트를 낭비해 추론 품질을 떨어뜨림. "적절한 양의 관련 정보" 가 핵심.