MemGPT: Towards LLMs as Operating Systems - 논문 리뷰

https://arxiv.org/abs/2310.08560

MemGPT: Towards LLMs as Operating Systems

 

 

• MemGPT는 대규모 언어 모델의 제한된 컨텍스트 윈도우 문제를 해결하기 위해 운영 체제의 가상 메모리 관리 개념을 도입했습니다.
• LLM의 컨텍스트를 주 메모리(메인 컨텍스트)와 외부 메모리(외부 컨텍스트)로 계층화하여 필요한 데이터를 동적으로 불러오고 저장합니다.
• 함수 호출을 통해 LLM이 자체적으로 메모리를 관리하며, 중요 정보를 유지하거나 불필요한 데이터를 외부로 이동시킵니다.
• 실험에서 MemGPT는 긴 문서 분석과 장기 대화 유지에서 기존 모델보다 우수한 성능을 보였습니다.
• 이 접근법은 LLM의 장기적인 기억 관리와 효율적인 데이터 처리를 가능하게 하여, 다양한 응용 분야에서 활용될 수 있습니다.

 

RAG랑 비슷하기도, 비슷하지 않기도 하네요

RAG에서 메모리 관리는 LLM이 하지 않지만 여기서는 LLM이 메모리관리까지 진행하여 Agent에 좀 더 맞는 LLM인 것 같습니다.

굳이 이 것을 본체 LLM이 하기 보다는 다른 LLM을 통해 요약하고, 본체에 넣어주는 방식이 좀 더 좋아보이긴 하는데 Agent 만들 때 진행되지 않을 까 싶습니다.

 

 

 

 

논문 요약: MemGPT: Towards LLMs as Operating Systems

1. 해결하려는 문제

대규모 언어 모델(LLM)은 유한한 컨텍스트 윈도우(입력 길이 제한)로 인해 긴 대화와 긴 문서 분석에 어려움을 겪습니다. 이를 극복하기 위해 더 긴 컨텍스트를 지원하는 아키텍처를 연구했지만, 계산 복잡성과 모델이 추가 컨텍스트를 효과적으로 활용하지 못하는 문제가 존재합니다. 이러한 제약을 해결하고자 MemGPT는 제한된 컨텍스트를 가진 모델이 무제한 컨텍스트를 활용할 수 있도록 가상 메모리 관리를 도입했습니다.

2. 사용한 방법

MemGPT는 운영 체제(OS)의 계층적 메모리 시스템에서 영감을 얻어 설계된 LLM 시스템입니다.

• 가상 메모리 페이징: LLM의 컨텍스트를 주 메모리(컨텍스트 윈도우)와 외부 메모리(디스크)로 구분합니다. 필요할 때만 외부 데이터를 컨텍스트로 불러옵니다.
• 기능 호출: LLM이 자체적으로 메모리를 관리할 수 있도록 함수 호출을 사용해 데이터 검색 및 저장을 수행합니다.
• 계층적 메모리 관리:
  • Main Context: LLM이 직접 접근할 수 있는 입력 토큰(시스템 명령어, 작업 컨텍스트, 대화 기록)으로 구성됩니다.
  • External Context: 외부 데이터베이스(아카이벌 스토리지)로, 필요 시 검색 기능을 통해 정보를 불러옵니다.
• 제어 흐름: 이벤트 기반 구조로, LLM이 적절한 시점에 메모리를 관리하거나 대화를 생성하도록 설계되었습니다.

3. 실험 및 결과

1. 대화형 에이전트 평가:
   • Deep Memory Retrieval: 이전 대화 내용을 바탕으로 질문에 답변하는 일관성을 평가.
     • MemGPT는 기존 모델 대비 정확도(Accuracy)와 ROUGE-L 점수가 월등히 높았습니다.
   • Conversation Opener: 사용자와의 초기 대화를 더욱 매력적으로 만드는 능력을 평가.
     • MemGPT는 인간 수준의 개방형 대화를 생성하거나 이를 초과하는 성능을 보였습니다.
2. 문서 분석 평가:
   • 다중 문서 질문 응답: 여러 문서에서 질문에 답하기 위한 검색 및 답변 정확도를 평가.
     • MemGPT는 페이지 네이션(pagination)을 통해 필요한 정보를 동적으로 검색해 기존 모델 대비 높은 성능을 발휘했습니다.
   • Nested Key-Value Retrieval: 키와 값이 중첩된 데이터 구조에서 최종 값을 찾는 능력을 평가.
     • GPT-3.5와 GPT-4는 중첩 수준이 증가할수록 성능이 감소했지만, MemGPT는 지속적으로 높은 정확도를 유지했습니다.

4. 한계점

• 복잡성 증가: MemGPT는 계층적 메모리 시스템과 함수 호출을 활용하므로 기존 LLM보다 설계와 구현이 복잡합니다.
• 성능 의존성: MemGPT의 성능은 기본 LLM(예: GPT-4)의 성능에 의존하며, 저성능 LLM에서는 한계가 있을 수 있습니다.
• 검색 효율성 문제: 외부 데이터 검색 시 적절한 데이터를 선택하지 못하면 성능 저하가 발생합니다.

---

논문의 타당성

• 기여도: MemGPT는 기존 LLM의 한계를 혁신적으로 해결하기 위해 OS 개념을 AI에 접목한 점에서 독창적이며, 긴 문맥 문제를 해결하는 실질적인 방법을 제시했습니다.
• 실험 설계: 다양한 도메인(대화와 문서 분석)에서 MemGPT의 성능을 평가해 일반화 가능성을 입증했습니다.

아쉬운 점

• 데이터 관리 효율성 부족: MemGPT는 데이터가 많은 경우에도 검색 효율성을 높이기 위한 최적화가 필요합니다.
• 범용성 한계: 제안된 시스템이 다른 도메인(예: 시뮬레이션 에이전트)에서도 동일한 성능을 보일지는 불확실합니다.

---

AI 에이전트 연구로의 확장 아이디어

• 장기 메모리 에이전트 설계: MemGPT의 메모리 계층 구조를 활용해 장기적인 상호작용을 지원하는 에이전트를 개발할 수 있습니다.
• 자동 실험 반복: MemGPT의 기능 호출 체계를 활용해 연구 데이터를 동적으로 관리하고, AI가 자동으로 실험을 반복하도록 설계할 수 있습니다.
• 다중 모달 통합: 외부 메모리를 비전 데이터와 통합해 텍스트 및 비전 기반 장기 메모리 에이전트를 구현할 수 있습니다.

 

그럼 이 논문은 기존 컨택스트에 들어간 기억과, 외부 메모리에 저장소처럼 저장한 기억에서 불러오는 것 두 가지를 가지고 있는 거네?
그럼 RAG랑 무슨 차이야?

MemGPT와 RAG(Retrieval-Augmented Generation)는 둘 다 외부 정보를 활용해 LLM의 성능을 향상시키는 접근법입니다. 그러나 두 시스템의 설계 철학과 구현 방식에는 중요한 차이가 있습니다. 이를 비교해 보겠습니다.

---

공통점

1. 외부 데이터 활용:
   • 둘 다 LLM의 제한된 컨텍스트 윈도우 문제를 해결하기 위해 외부 데이터를 불러와 사용합니다.
2. 동적 검색:
   • 필요한 데이터를 외부에서 검색하고 이를 기반으로 답변을 생성합니다.
3. LLM 중심:
   • LLM이 데이터를 활용해 답변을 생성하는 구조를 따릅니다.

---

차이점

1. 메모리 계층 구조

• MemGPT: 운영 체제(OS)의 메모리 관리 방식을 모방하여, 주 메모리(Main Context)와 외부 메모리(External Context)를 계층적으로 설계했습니다.
  • 주 메모리는 현재 작업에 중요한 정보를 유지하며, 이는 LLM의 컨텍스트 윈도우 내에 존재합니다.
  • 외부 메모리는 필요할 때만 데이터를 검색해 주 메모리로 불러옵니다.
  • 특징: "가상 메모리 페이징"이라는 개념을 도입해 데이터의 동적 교체 및 계층적 관리가 가능합니다.
• RAG: Retrieval-Augmented Generation은 외부 검색 시스템(예: 벡터 데이터베이스)에서 필요한 정보를 검색해 이를 LLM에 입력으로 제공하는 단일 계층 방식입니다.
  • 검색된 정보는 즉시 LLM의 컨텍스트 윈도우로 전달되며, 컨텍스트가 부족하면 새로운 검색을 실행해야 합니다.
  • 특징: 계층적 메모리 관리가 없으며, 검색된 정보는 임시적으로만 사용됩니다.

2. 기억의 지속성

• MemGPT: 외부 메모리에 데이터를 지속적으로 저장하며, 필요에 따라 이전 대화 기록이나 문서를 반복적으로 불러올 수 있습니다. 이를 통해 장기적인 기억 관리가 가능합니다.
• RAG: 외부 검색 시스템은 주로 순간적인 데이터 검색에 초점이 맞춰져 있어, 장기적인 기억 관리보다는 특정 질문에 대한 정보 검색에 최적화되어 있습니다.

3. 자율적 메모리 관리

• MemGPT: LLM이 자체적으로 메모리를 관리합니다.
  • 예: 오래된 데이터를 외부로 이동시키거나, 중요한 데이터를 주 메모리에 유지하는 등의 의사결정을 수행합니다.
  • 이는 LLM이 특정 작업에 필요한 메모리를 스스로 결정할 수 있도록 설계되었습니다.
• RAG: 데이터 검색 및 처리 흐름은 주로 외부 시스템에 의해 제어됩니다. LLM은 검색된 데이터를 수동적으로 소비하는 역할에 가깝습니다.

4. 응용 범위

• MemGPT:
  • 장기적인 대화형 에이전트 설계에 적합합니다(사용자와의 장기적인 관계 관리).
  • 문서 분석처럼 대규모 데이터를 반복적으로 사용하는 작업에 유리합니다.
• RAG:
  • 질문 응답(QA)과 같이 특정 데이터 검색 후 즉각적인 응답 생성에 적합합니다.
  • 주로 검색 중심의 작업에서 사용됩니다.

5. 제어 흐름

• MemGPT: 이벤트 기반 시스템으로 설계되어, 특정 조건(예: 메모리 압박)이 발생하면 자동으로 메모리를 정리하거나 데이터를 불러옵니다.
• RAG: 외부 검색과 LLM의 연결은 단순히 쿼리와 검색 결과로 구성되어 있으며, 시스템 내부 제어 흐름은 없습니다.

---

요약

MemGPT는 장기적인 기억 관리와 계층적 메모리 관리를 목표로 설계된 반면, RAG는 즉각적인 외부 검색과 생성에 초점을 맞춘 간단하고 효율적인 접근법입니다. MemGPT는 대화형 AI 에이전트나 지속적인 작업에서 더 적합하며, RAG는 빠르고 단순한 정보 검색 기반 응용에 적합합니다.

연구 아이디어

이 차이를 바탕으로 MemGPT와 RAG를 혼합한 새로운 아키텍처를 설계할 수 있습니다.

• RAG의 빠른 검색 능력을 MemGPT의 장기 기억 관리 구조에 통합하면, 즉각적인 응답과 지속적인 사용자 맥락 관리가 모두 가능한 하이브리드 에이전트를 개발할 수 있습니다.

 

MemGPT는 메모리를 관리한다는 관점에서 RAG랑 다는 거네?
메모리 관리는 어떻게 하는건데?

MemGPT의 메모리 관리 방식은 운영 체제(OS)의 가상 메모리 페이징(Virtual Memory Paging)과 유사하게 설계되었습니다. 이를 통해 제한된 컨텍스트 윈도우를 가진 LLM이 장기적인 기억을 효과적으로 유지하고 활용할 수 있습니다. 아래는 MemGPT의 메모리 관리 메커니즘을 단계별로 설명한 내용입니다.

---

1. 메모리 계층 구조

MemGPT는 두 가지 주요 메모리 계층으로 구성됩니다.

1. Main Context (주 메모리):
   • LLM이 현재 컨텍스트 윈도우 내에서 직접 접근할 수 있는 정보(시스템 명령어, 대화 기록, 작업 관련 정보 등)를 포함합니다.
   • 제한된 토큰 길이 내에서만 작동하므로, 관리가 필요합니다.
2. External Context (외부 메모리):
   • 컨텍스트 윈도우를 벗어난 정보를 저장합니다.
   • 외부 데이터베이스나 스토리지 시스템(예: PostgreSQL)을 활용하여 데이터를 유지하며, 필요할 때만 불러옵니다.
   • 구조화된 데이터(대화 로그, 문서 텍스트 등)를 포함합니다.

---

2. 주요 메모리 관리 방식

MemGPT의 메모리 관리 방식은 다음과 같은 요소로 구성됩니다.

(1) Queue Manager

• FIFO(First In, First Out) 정책: 주 메모리(컨텍스트 윈도우)에 저장된 데이터는 우선순위에 따라 정리됩니다.
• 메모리 압박 처리:
  • Warning Token Count: LLM의 컨텍스트 윈도우가 일정 수준(예: 70%)에 도달하면, 시스템은 메모리 압박 경고를 생성합니다.
  • Flush Token Count: 컨텍스트 윈도우가 초과(100%)되면, 오래된 데이터를 외부 메모리로 이동시키고 새로운 요약을 생성하여 주 메모리를 정리합니다.
• 데이터 요약: 데이터를 외부로 이동시키기 전, 요약(summary)을 생성해 주 메모리에 유지합니다. 이 요약은 필요한 경우 외부 데이터를 빠르게 불러오는 데 사용됩니다.

(2) Function Executor

• LLM이 생성한 함수 호출을 통해 메모리를 관리합니다.
• 데이터 이동:
  • 필요한 데이터를 외부 메모리에서 검색하여 주 메모리로 이동시킵니다.
  • 불필요한 데이터를 외부 메모리로 내보냅니다.
• 자율적 메모리 수정:
  • LLM이 컨텍스트 윈도우 내의 데이터를 수정하거나 업데이트할 수 있습니다.
  • 예: 오래된 대화 정보를 요약 형태로 축소하거나 중요한 데이터를 보존.

(3) Function Chaining (함수 체이닝)

• 여러 메모리 관리 작업(검색, 저장, 수정)을 연속적으로 실행할 수 있습니다.
• 예: 사용자 질문에 답하기 위해 여러 외부 데이터를 검색하고, 필요한 데이터를 결합한 뒤 답변을 생성.

---

3. 메모리 관리의 구체적 예

(1) 대화형 에이전트에서의 활용

• 사용자와의 긴 대화 중 LLM은 현재 대화 맥락(주 메모리)을 유지하지만, 이전 대화의 오래된 정보는 외부 메모리에 저장합니다.
• 사용자가 이전 대화 내용을 언급하면, MemGPT는 관련 정보를 외부 메모리에서 검색해 컨텍스트에 추가합니다.
• 예:
  • 사용자가 "지난번에 내가 좋아한다고 했던 음식 기억나요?"라고 묻는 경우, MemGPT는 외부 메모리에서 관련 대화 기록을 검색합니다.

(2) 문서 분석에서의 활용

• 길이가 긴 문서(예: 수백 페이지의 보고서)에서 필요한 정보를 검색합니다.
• 문서의 각 부분을 외부 메모리에 저장하고, 질문에 맞는 부분만 컨텍스트로 가져옵니다.
• 예: "10-K 보고서에서 2023년 매출이 얼마였나요?"라는 질문에 대해, 관련 데이터를 외부 메모리에서 검색하여 답변을 생성합니다.

---

4. RAG와의 차별점

RAG는 외부 검색 시스템을 통해 데이터를 단순히 불러오고 이를 즉시 사용하지만, MemGPT는 다음과 같은 방식으로 메모리 관리를 수행합니다.

1. 장기 저장 및 요약:
   • 데이터를 외부 메모리에 장기적으로 저장하고, 이를 요약 형태로 주 메모리에 유지합니다.
2. 데이터 선택 및 교체:
   • 중요도에 따라 데이터를 선택적으로 유지하거나 교체합니다.
3. 자율성:
   • LLM이 메모리 관리 작업을 스스로 수행할 수 있도록 설계되었습니다.

---

요약

MemGPT는 기존 LLM의 컨텍스트 제한 문제를 해결하기 위해 메모리를 계층적으로 관리하며, 메모리 사용량을 동적으로 최적화합니다. 이 접근법은 대화형 에이전트나 대규모 데이터 분석과 같은 응용 분야에서 특히 유용하며, 단순히 검색 중심인 RAG와는 지속성과 자율성에서 차별화됩니다.

 

언어 모델은 최대 토큰이라는 최대 길이가 고정되어 있는데 요약할 때 그 최대 길이를 넘으면 어떻게 해 ?

언어 모델(LLM)이 요약 작업 중 최대 토큰 제한(context window)을 초과하는 경우, 이를 해결하기 위해 다양한 전략이 사용됩니다. 아래는 일반적으로 사용하는 방법들을 설명합니다.

---

1. 요약을 반복적으로 수행 (Recursive Summarization)

1. 문서를 분할:
   • 긴 문서를 여러 작은 섹션으로 나누고, 각각을 독립적으로 요약합니다.
   • 예: 10,000 단어의 문서를 1,000 단어씩 분할.
2. 부분 요약 결합:
   • 각 섹션의 요약을 다시 모아 전체적인 요약을 생성합니다.
   • 필요하다면 이 과정을 반복하여 최종 요약을 만듭니다.
   장점:
   • 구조적이고 효율적입니다.
   • 메모리 초과 없이 작업 가능.

---

2. 중요도 기반 선택 요약 (Prioritization and Filtering)

1. 중요한 정보만 추출:
   • 모델이나 알고리즘을 사용해 문서 내 중요 문장이나 섹션을 식별합니다.
   • 예: 키워드 추출, TF-IDF, 중요도 점수 기반 필터링.
2. 추출된 내용만 요약:
   • 컨텍스트 윈도우 내에서 처리할 수 있을 정도로 데이터를 줄인 후 요약을 생성합니다.
   장점:
   • 더 중요한 정보를 요약에 반영.
   • 불필요한 데이터 배제를 통해 효율성 향상.

---

3. 페이징 기법 활용 (Paging)

1. 순차적으로 처리:
   • 문서를 읽고 처리할 수 있는 만큼의 데이터를 컨텍스트에 넣어 한 번에 처리.
   • 요약이 끝난 후, 새로운 데이터를 불러와 추가 요약.
2. 중간 상태 저장:
   • 이전에 생성된 요약 결과를 저장하여, 다음 요약 작업의 입력으로 사용.
   장점:
   • 모델의 메모리 한도를 유지하며 작업 수행.
   • 복잡한 문서에서도 안정적인 결과 생성.

---

4. Chunking + Query-based Summarization (질문 기반 요약)

1. 청킹(Chunking):
   • 문서를 여러 부분으로 나누고, 각 부분에서 특정 질문에 대한 답변을 생성.
   • 예: "문서의 핵심 주제는 무엇인가?" 또는 "이 섹션의 주요 인사이트는?"와 같은 질문.
2. 전체 요약 생성:
   • 개별 답변을 종합해 최종 요약 생성.
   장점:
   • 긴 문서의 세부 내용을 유지하면서 요약 가능.
   • 특정 요구에 맞춘 요약 제공.

---

5. 트렁케이션(Truncation) (단순 자르기)

1. 최대 길이까지만 유지:
   • 문서가 너무 길 경우, 처음 몇 부분(또는 마지막 몇 부분)만 컨텍스트에 넣고 요약 수행.
2. 손실 보완:
   • 중요한 정보가 잘리지 않도록 앞뒤 균형을 고려하거나, 적절히 추가 정보를 결합.
   단점:
   • 데이터 손실 위험.
   • 중요한 정보가 제외될 가능성.

---

6. 외부 메모리 활용 (External Memory or Retrieval)

1. 외부 저장소와 연동:
   • MemGPT와 같이 외부 메모리 시스템을 사용해 긴 문서 데이터를 보관.
   • 필요한 데이터만 검색하여 요약에 활용.
2. 구조적 데이터 관리:
   • 요약 작업에 필요한 데이터를 정리된 형태로 관리(예: 문서 구조나 인덱스 생성).
   장점:
   • 컨텍스트 초과 문제를 근본적으로 해결.
   • 동적 데이터 관리 가능.

---

7. 언어 모델의 토큰 효율성 최적화 (Token Efficiency)

1. 문장 간소화:
   • 입력 데이터를 사전 처리하여 불필요한 정보를 제거.
   • 예: 중복 문장, 불필요한 수식어 삭제.
2. 압축 인코딩:
   • 데이터의 길이를 줄이기 위해 효율적인 표현 방식 사용(예: JSON 대신 간략한 텍스트 포맷).
   장점:
   • 동일한 컨텍스트 내에서 더 많은 데이터를 처리 가능.

---

요약

• 최대 토큰 제한을 극복하려면, 데이터를 청킹하고 중요도 기반 필터링이나 페이징 기법을 활용하는 것이 일반적입니다.
• 더 나아가, 외부 메모리와 자율적 메모리 관리(MemGPT 같은 방식)를 결합하면, 긴 문서에서도 효율적이고 완성도 높은 요약을 생성할 수 있습니다.

 

그럼 이 논문에선 어떤 방식을 썼어?

MemGPT 논문에서는 "운영 체제(OS)에서 사용하는 가상 메모리 관리 방식"을 차용하여 LLM의 메모리 제약을 해결하고, 이를 통해 긴 텍스트를 다루거나 장기적인 대화 맥락을 유지할 수 있도록 설계되었습니다. 구체적으로, 아래의 방식을 사용했습니다.

---

1. 계층적 메모리 구조 활용

MemGPT는 LLM의 컨텍스트를 아래 두 계층으로 나누어 관리합니다:

• Main Context (주 메모리):
  • LLM의 고정된 컨텍스트 윈도우 안에 포함된 데이터로, 현재 작업에 필요한 핵심 정보를 포함합니다.
  • 즉각적인 처리를 위해 사용됩니다.
• External Context (외부 메모리):
  • LLM의 컨텍스트 윈도우를 초과한 데이터를 저장하는 스토리지.
  • 필요한 정보를 검색하거나 저장하여, 제한된 컨텍스트 윈도우 문제를 해결합니다.
  • 데이터베이스(PostgreSQL 등)와 연동하여 효율적인 검색이 가능하도록 설계되었습니다.

---

2. 데이터 저장 및 교체 방식

(1) 컨텍스트 관리

• FIFO Queue: 주 메모리의 대화 기록이나 데이터를 First In, First Out 방식으로 관리합니다.
  • 오래된 데이터는 외부 메모리로 이동시키고, 요약(summary)을 생성하여 주 메모리에 유지합니다.
• Memory Pressure Alerts:
  • 토큰 사용량이 70%를 초과하면, 시스템은 "메모리 압박 경고"를 생성하여 중요 데이터를 외부로 이동하거나 요약하도록 요청합니다.
  • 100%를 초과하면, 자동으로 데이터를 외부 메모리로 플러시(flush)하여 공간을 확보합니다.

(2) 요약과 데이터 저장

• 외부로 이동하기 전, 데이터를 요약하여 주 메모리에 남깁니다.
• 요약은 필요한 경우 다시 외부 메모리에서 데이터를 검색하기 쉽게 만들어줍니다.

---

3. Function Executor를 통한 자율적 메모리 관리

MemGPT는 LLM의 출력으로 생성된 함수 호출(Function Call)을 통해 메모리를 동적으로 관리합니다.

• 데이터 검색: 필요한 정보를 외부 메모리에서 검색하고, 이를 주 메모리에 추가합니다.
• 데이터 저장: 컨텍스트 윈도우를 초과한 데이터를 외부 메모리에 저장합니다.
• 자율적 관리: 시스템 경고(예: 메모리 압박 경고)에 따라, LLM이 스스로 어떤 데이터를 유지할지 결정합니다.

---

4. 페이징(Paging)을 통한 긴 문서 처리

(1) 문서 분석:

• 긴 문서를 처리할 때, 필요한 섹션만 외부 메모리에서 불러옵니다.
• 예를 들어, "이 문서의 주요 내용은 무엇인가?"라는 질문에 대해, MemGPT는 관련 섹션만 검색하여 컨텍스트로 가져옵니다.
• 검색된 섹션이 많을 경우, 페이징(pagination)을 통해 순차적으로 처리합니다.

(2) 다중 문서 처리:

• 여러 문서에서 데이터를 검색해야 할 때, 외부 메모리 검색 기능을 활용하여 필요한 정보를 반복적으로 불러옵니다.
• 예: "A 보고서와 B 보고서에서 2023년 수익을 비교하세요."

---

5. Recursive Summarization

• 대화나 문서의 길이가 매우 길 경우, 요약을 반복적으로 수행합니다.
  • 예: 대화 기록을 주기적으로 요약하여 대화의 맥락을 유지하면서도 공간을 절약.
  • 요약된 정보는 다음 대화나 작업에서 중요한 힌트로 활용됩니다.

---

6. 실제 사용 예시

(1) 대화형 에이전트

• 장기 대화 유지:
  • 사용자의 이전 대화 기록을 외부 메모리에 저장.
  • 필요할 때 과거 기록을 검색하여 현재 대화에 활용.
  • 예: 사용자가 "지난번에 내가 좋아한다고 한 책 이름이 뭐였죠?"라고 물으면, MemGPT는 외부 메모리에서 검색 후 답변.

(2) 문서 분석

• 긴 문서 요약:
  • 10-K 보고서와 같은 긴 문서의 섹션을 분리하여 필요할 때 검색.
  • 필요 섹션만 불러와 컨텍스트 윈도우를 초과하지 않도록 관리.

---

요약: 어떤 방식을 썼나?

• 계층적 메모리 구조: 데이터를 주 메모리와 외부 메모리로 나누어 효율적으로 관리.
• 함수 호출 기반 메모리 관리: 데이터를 검색, 저장, 요약하는 작업을 자율적으로 수행.
• 페이징 및 요약: 긴 문서나 대화 기록을 페이징(paging)과 요약(summary)으로 처리.
• 자율적 메모리 최적화: LLM이 스스로 메모리 사용량을 관리하며 필요한 정보를 선택적으로 유지.

이 방식은 단순히 데이터를 검색하는 RAG와 달리, 데이터를 저장, 검색, 교체, 요약하는 전체적인 메모리 관리에 초점을 맞추고 있습니다.

 

그럼 결과가 어떻게 되는거야?

 

결과 요약:

1. 대화형 에이전트:
   • Deep Memory Retrieval: 이전 대화 기록을 활용한 정확도에서 기존 모델보다 30% 이상 향상.
   • Conversation Opener: 사용자와의 초기 대화에서 MemGPT는 인간 수준의 자연스러운 대화 생성 및 기억 활용 성능을 보임.
2. 문서 분석:
   • 다중 문서 질문 응답(Multi-Document QA): 긴 문서를 다룰 때, MemGPT는 페이징과 검색을 통해 문서 길이에 상관없이 높은 정확도를 유지.
   • 중첩된 키-값 검색(Nested Key-Value Retrieval): GPT-4가 중첩 레벨 증가 시 성능이 급격히 떨어지는 반면, MemGPT는 안정적으로 높은 성능을 유지.
3. 성능 비교:
   • 기존 고정 컨텍스트 기반 모델(GPT-4, GPT-3.5)보다 모든 실험에서 높은 정확도와 효율성을 보였으며, 특히 긴 컨텍스트와 장기 기억이 필요한 작업에서 강점을 발휘.
4. 주요 개선점:
   • MemGPT를 활용한 모델은 컨텍스트 길이에 의존하지 않고 대화와 분석 작업에서 일관성과 유연성을 제공.

---

결론적으로, MemGPT는 기존 LLM의 컨텍스트 제한 문제를 효과적으로 해결하며, 대화형 에이전트와 문서 분석과 같은 다양한 응용 분야에서 유의미한 성능 향상을 달성했습니다.