RAG 에이전트 실무
생성형 AI의 핵심 개념부터 모델 비교, RAG 전략, 최신 기술 트렌드까지 AI 전반을 다루는 카테고리입니다.
기술의 흐름을 이해하고 방향을 잡고 싶은 개발자와 기획자를 위한 분석 중심 콘텐츠를 제공합니다.
생성형 AI 자동화 시대, 왜 Langflow와 Dify가 주목받는가 새로운 패러다임의 등장 Langflow Dify 2023년 이후 생성형 AI, 특히 ChatGPT와 같은 LLM이 개발자와 비즈니스 전반에 확산되면서 “누구나 쉽게 챗봇, 자동화, 지식 검색, Q&A 서비스를 만들 수 있는 툴”이 필수 도구로 떠올랐다. 이때 단순히 GPT API를 직접 코드로 붙이는 것을 넘어서, GUI(그래픽 UI) 기반의 워크플로우 설계, 멀티모델·멀티 … Read more
vLLM이란 무엇이고 왜 각광받는가 vLLM은 최근 AI/LLM 분야에서 급부상하고 있는 초고속 대규모 언어모델 서빙 엔진이다. vLLM의 이름에서 볼 수 있듯이, ‘Virtual’ + ‘LLM(Large Language Model)’을 의미하며, 여러 대형 언어모델을 GPU 환경에서 최대 효율로 빠르게 서비스할 수 있도록 설계되어 있다. 기존 트랜스포머 모델 서빙 엔진들이 가진 비효율성, 예를 들어 토크나이저 처리 병목, 배치 성능 저하, GPU … Read more
Langchain 기초, 그리고 생성형 AI 활용의 패러다임 Langchain은 OpenAI의 ChatGPT를 비롯해 여러 대형 언어모델(LLM, Large Language Model)을 파이썬 환경에서 쉽고 강력하게 활용할 수 있게 해주는 프레임워크다. 단순히 텍스트 입력과 출력에 그치지 않고, 여러 단계의 프롬프트(지시문), 사용자 입력, 외부 도구와의 연동, 다중 모델 체이닝까지 구현할 수 있다. 실제 프로덕트에서 “챗봇처럼 자연어 대화형 인터페이스를 만들고 싶다”, “문서 … Read more
fastapi‑mcp란 무엇인가? FastAPI‑MCP는 FastAPI 앱의 모든 엔드포인트를 Model Context Protocol(MCP) 도구로 자동 노출해주는 라이브러리입니다. zero‑config 방식: FastApiMCP(app).mount() 한 줄이면 /mcp 경로에 자동으로 MCP 서버가 세팅됩니다. OpenAPI 스키마 기반으로 엔드포인트의 요청/응답 형태, docstring 등 정보를 그대로 유지합니다 (FastAPI MCP). 내부의 FastAPI 종속성 주입(Dependency‑Inject)이나 인증 로직도 자연스럽게 통합되어 안심하고 사용 가능합니다 (GitHub). ASGI transport 사용: HTTP 요청 … Read more
요즘 누구나 한 번쯤은 들어봤을 법한 ‘LLM(대형 언어 모델)’. ChatGPT처럼 사람처럼 말하고, 생각하고, 글까지 써주는 인공지능의 비밀은 과연 무엇일까요? 오늘은 그 중에서도 LLM이 사용자 명령에 제대로 반응하도록 만드는 핵심 과정, Post-training에 대해 알아보겠습니다. 만약 여러분이 AI 모델을 실제로 개발하고자 한다면, Pre-training만으로는 끝나지 않는다는 사실을 반드시 기억하셔야 합니다. 그럼 지금부터 함께 알아볼까요? STEP 1: Pre-training만으로는 부족하다? … Read more