knowledge-based content
“생성형 AI, RAG, 모델 활용 전략부터 최신 트렌드까지—AI 기술의 깊이를 함께 탐구하는 지식 공간입니다.
개발자와 기획자, 그리고 AI에 관심 있는 누구나 실질적인 도움을 받을 수 있는 실무 중심의 콘텐츠를 제공합니다.”
핵심 요약 기업 환경에서 RAG 시스템을 구축할 때 가장 큰 난관은 수많은 문서 중에서 정확한 정보를 빠르게 찾아내는 것입니다. 특히 10페이지짜리 간단한 보고서부터 1000페이지가 넘는 기술 매뉴얼까지 다양한 분량의 문서가 섞여 있다면 검색 정확도는 더욱 떨어지게 됩니다. 이 문제를 해결하기 위해 사전에 문서를 체계적으로 요약하고, 이를 쿼리 라우팅에 활용하는 Agentic RAG 접근법이 주목받고 있습니다. 문서 … Read more
핵심 요약 생성형 RAG(Retrieval-Augmented Generation)를 제대로 구축하려면 단순히 검색과 생성을 연결하는 것만으로는 부족합니다. NLP 기술을 활용한 정교한 문서 처리와 에이전트 전략을 통한 지능적인 정보 활용이 필수입니다. 최신 RAG 시스템은 쿼리 재작성, 하이브리드 검색, 컨텍스트 압축, 멀티 에이전트 협업 등을 통해 답변 품질을 극적으로 향상시키고 있습니다. 요즘 AI 챗봇이나 검색 시스템을 만들다 보면 RAG라는 단어를 빼놓을 … Read more
요약: 바이브 코딩(Vibe Coding)은 AI를 활용해 자연어로 대화하듯 코드를 작성하는 새로운 개발 방식입니다. 전통적인 코딩보다 최대 10배 빠른 개발 속도를 자랑하며, 2025년 현재 개발자들 사이에서 가장 뜨거운 화두로 떠올랐습니다. GitHub Copilot, Cursor AI, Claude Code가 대표적이며, 초보자도 몇 시간 만에 실무 수준의 코드를 작성할 수 있어 개발 생태계를 완전히 바꾸고 있습니다. 개발자라면 누구나 한 번쯤 … Read more
핵심 요약 새로 구매한 L40S GPU 서버에 Docker 기반 vLLM을 설치하고 Qwen3-30B-A3B-Instruct 모델을 구동하는 전체 과정을 다룹니다. 서버 초기 설정부터 모델 실행까지 실제 작업 순서대로 정리했으며, 중간에 발생할 수 있는 문제 해결 방법도 함께 담았습니다. 요즘 AI 모델 서빙에 관심 있는 분들 사이에서 vLLM이 화제입니다. 특히 대용량 언어 모델을 빠르고 효율적으로 운영할 수 있다는 점 … Read more
최근 생성형 AI 분야에서는 단순한 텍스트 생성 모델을 넘어서, 검색 기반 생성(RAG, Retrieval-Augmented Generation) 방식이 뜨거운 관심을 받고 있습니다. 특히 한국어와 같이 다국어 지원이 완벽하지 않은 언어에서는, RAG 구조를 활용해 신뢰도 높은 정보를 생성하는 것이 매우 중요합니다. 이번 포스팅에서는 최신 vLLM 환경에서 Google의 Gemma 및 Alibaba의 Qwen 모델을 활용하여, L40s GPU 환경에서 구동 가능한 가성비 … Read more
핵심 요약 최근 공공기관에서 AI 시스템 도입이 활발해지면서 Agentic RAG 구축에 대한 관심이 높아지고 있습니다. 기존 RAG 시스템과 달리 에이전트가 자율적으로 판단하고 검색하는 Agentic RAG는 청크 단위 임베딩 시 메타데이터를 체계적으로 설계하는 것이 핵심입니다. 문서 출처, 생성일자, 부서정보, 보안등급 같은 메타데이터를 적절히 구조화하면 에이전트가 더욱 정확한 질의 검색을 수행할 수 있습니다. 특히 공공기관 특성상 문서 … Read more
주요 내용 요약 2025년 현재, AI 기술과 운영(Operations)이 결합된 다양한 신조어들이 등장하며 기업의 AI 도입 전략을 근본적으로 바꾸고 있습니다. LLMOps는 MLOps(머신러닝 운영)의 하위 범주로, 대형언어모델(LLM)의 라이프사이클 프로세스를 관리하는 관행과 도구를 의미하며, 기업 환경에서 LLM 기반 복합 시스템의 60%가 어떤 형태로든 검색 증강 생성(RAG)을 활용하고 있어 RAGOps의 중요성이 부각되고 있습니다. 동시에 2025년에는 생성형 AI를 사용하는 기업의 … Read more
데이터브릭스를 처음 접하시는 분들이라면 Workspace에 들어가자마자 수많은 메뉴들 때문에 어디서부터 시작해야 할지 막막하실 거예요. 마치 새로운 도시에 도착해서 지도 없이 길을 찾는 기분이랄까요? 오늘은 데이터브릭스 Workspace의 모든 메뉴를 체계적으로 정리해서, 여러분이 데이터 분석의 여정을 순조롭게 시작할 수 있도록 도와드릴게요. 데이터브릭스 Workspace란 무엇인가요? 데이터브릭스 Workspace는 데이터 사이언티스트, 엔지니어, 비즈니스 분석가들이 협업하며 데이터 작업을 수행하는 통합 환경이에요. … Read more
현업에서 AI 에이전트 시스템을 구축하면서 가장 많이 받는 질문이 바로 “에이전트와 툴의 경계는 어디까지인가”입니다. 특히 LangGraph와 같은 프레임워크를 활용해 복잡한 워크플로우를 설계할 때, 각 기능을 독립적인 에이전트로 분리할지 아니면 하나의 에이전트 내 툴로 구성할지 고민이 많죠. 오늘은 실제 사업 관점에서 어떻게 에이전트 아키텍처를 설계해야 하는지, 그리고 어떤 기준으로 에이전트와 툴을 구분해야 하는지 명확하게 정리해보겠습니다. 에이전트와 … Read more
AI 에이전트 기반 애플리케이션의 복잡성이 점점 더 고도화되고 있습니다. 단일 프롬프트에서의 응답 수준을 넘어서 이제는 다중 회차(turn) 기반의 대화, 다양한 상태(state) 관리, 그리고 복수 에이전트 간 협업(Agent Collaboration) 까지도 필요해졌습니다. 이러한 요구에 대응하기 위해 등장한 것이 LangGraph입니다. LangChain의 확장 생태계로서, 복잡한 멀티턴(Multiturn) 대화 흐름을 제어 가능한 그래프 기반 워크플로우로 전환해주는 이 프레임워크는 에이전트 지향(Agent-Oriented) 시스템을 … Read more