LLM 에이전트 설계, 어디까지 진화했는가?
최근 Claude 모델에서 소개된 MCP(Memory-Control-Planning) 개념은 LLM을 이용한 고도화된 에이전트 설계의 지평을 넓히고 있습니다. 동시에 LangChain과 LangGraph 같은 프레임워크는 이러한 LLM 능력을 체계적으로 실현할 수 있도록 돕습니다.
이 글에서는 Claude MCP의 개념을 정리하고, 이를 LangChain 및 LangGraph에 통합하는 실질적인 구조를 제안합니다. 특히 MCP 서버를 gRPC 기반으로 외부에서 운용하는 구조를 상정하고, 이 서버를 LangGraph에서 호출하는 방식을 중심으로 RAG 기반 에이전트 구조의 최적화된 흐름을 분석해 봅니다.
Claude MCP란 무엇인가?
MCP는 Claude에서 공식적으로 공개된 LLM의 3대 핵심 기능 조합입니다:
- Memory: 대화 및 맥락을 장기적으로 기억하여 사용자 중심의 응답 제공
- Control: 외부 도구나 함수 호출, 흐름 분기를 명시적으로 제어
- Planning: 목표 중심 사고, 즉 다단계 태스크를 계획하고 실행
Claude MCP는 단순 질의응답에서 벗어나 “행동하는 에이전트”로 진화한 LLM의 미래를 지향합니다.
LangChain과 LangGraph는 무엇이며, 어떻게 다를까?
LangChain
LangChain은 LLM 기능을 모듈화하고 체인화하여, 다양한 도구 및 외부 시스템과 결합할 수 있게 도와주는 프레임워크입니다. 에이전트, 도구(Tool), 메모리, 체인 등이 핵심 구성 요소입니다.
LangGraph
LangGraph는 LangChain을 기반으로 하는 “LLM-기반 유한 상태 머신”입니다. 상태 기반의 대화 흐름 제어가 가능하며, 각 상태에서 LLM 호출, 조건 분기, 반복 등을 정의할 수 있습니다.
LangChain이 구조화된 파이프라인을 만든다면, LangGraph는 조건/분기 중심의 유연한 워크플로우를 만드는 데 특화되어 있습니다.
Tool, Agent, MCP: 어떻게 통합될 수 있을까?
Claude MCP 기능은 LangChain/LangGraph의 구조 안에서 다음과 같이 역할을 수행할 수 있습니다:
| MCP 구성요소 | LangChain/LangGraph 매핑 | 설명 |
|---|---|---|
| Memory | ConversationBufferMemory 등 | 사용자 문맥 유지 |
| Control | Tool 사용 / LangGraph 분기 상태 | 검색 vs 요약 vs 생성 제어 |
| Planning | AgentExecutor / Plan-and-Execute | 다단계 계획 처리 |
즉, Claude의 MCP 개념은 LangChain과 LangGraph의 기능에 그대로 대응되며, Claude API의 출력 또는 메타 기능을 적절히 해석하여 적용하면 됩니다.
아키텍처 개요: LangChain → LangGraph → gRPC MCP 서버 호출
구조적 흐름
- LangChain에서 질의 수신
- LangGraph를 통한 처리 흐름 분기
- LangGraph 상태에서 gRPC로 MCP 서버 호출 (계획 요청/제어 요청 등)
- MCP 응답 기반으로 LangGraph 상태 결정 및 도구 호출
- 최종 응답 생성 및 사용자에게 반환
MCP 서버는 어떤 역할을 할까?
- 질의 분석
- 현재 대화 문맥 기반 계획 수립
- 필요한 외부 도구 사용 판단
- 전체 응답 전략 제안
LangGraph는 MCP 서버를 tool_call 개념으로 gRPC 클라이언트로 호출하며, Claude 또는 OpenAI LLM은 해당 계획에 따라 문장을 생성하거나 판단을 내립니다.
핵심 구현 흐름 예시
환경 가정
- Claude API Key 및 OpenAI Key 확보
- LangChain, LangGraph 설치
- 외부 gRPC MCP 서버 구동
흐름 예시
사용자: “최근 RAG 관련 연구 요약해줘”
↓
LangChain Agent 입력 수신
→ LangGraph로 상태 전환: 질문 해석
→ MCP 서버 (gRPC) 호출:
- 대화 문맥 전달
- 현재 질의 해석 및 목표 계획 요청
→ MCP 응답:
- “논문 검색 → 요약 → 응답 생성” 플랜 제시
→ LangGraph 상태 전이:
- 상태1: 검색 도구 호출 (Tool)
- 상태2: Claude를 통한 요약 생성
- 상태3: 최종 응답 구성
→ 사용자에게 응답 전송
실험: 다양한 에이전트 흐름 테스트
시도 1: LangChain + Tool 기반 단일 에이전트
- 결과: 도구 사용은 가능하나, 다단계 제어 및 맥락 전이는 부족
시도 2: LangChain + Claude + LangGraph 상태 기반 제어
- 결과: 상태 분기 흐름 우수, 그러나 계획 능력이 제한적
시도 3: LangChain → LangGraph → MCP gRPC 서버 통합
- 결과: 전체 흐름 자동화 및 제어력 우수, 질의-응답 최적화 가능
최적의 에이전트 흐름 설계
핵심 전략
- LangChain: 초기 입력 및 메모리/히스토리 관리
- LangGraph: 질문 해석, 상태 기반 흐름 제어
- gRPC MCP 서버: 계획 수립, 도구/제어 흐름 설계
- Claude/OpenAI: 자연어 처리 및 응답 생성 전담
기술 스택 구성
LangChain: Memory, Agent, ToolWrapperLangGraph: 상태 머신 구성Claude API: 요약/생성 LLMgRPC MCP: Planning/Control 서버Vector DB: RAG 문서 검색
기술적 고려사항 및 한계
| 항목 | 설명 |
|---|---|
| gRPC 호출 latency | 실시간 응답성 고려 필요 |
| Claude MCP API 공개 여부 | Anthropic 측 MCP 기능 외부 서버 연동은 커스텀 구현 필요 |
| LangGraph 상태 설계 난이도 | 명확한 플로우 정의 필요 |
| Plan-Execute 신뢰도 | LLM의 계획 오류 보정 필요 |
결론, Claude MCP는 미래형 RAG 에이전트의 중심이 될 수 있다
Claude의 MCP 개념은 고도화된 RAG 구조를 설계하는 데 있어 매우 유용하며, LangChain과 LangGraph를 통해 현실적인 시스템으로 구현 가능합니다. 특히, 외부 gRPC 서버를 통한 Planning/Control 기능을 분리하면, 추후 멀티 에이전트 시스템으로의 확장도 용이합니다.
추천 조합:
LangChain → LangGraph 상태 제어 → gRPC MCP 계획 요청 → Claude + OpenAI LLM → 응답 생성