멀티모달 RAG란 무엇인가? 이미지 캡셔닝과 벡터 임베딩은 어떻게 다른가

멀티모달RAG

지난달 사내 RAG 시스템에 PDF 하나가 들어왔는데, 절반이 회로도와 표였다. 텍스트만 청킹하던 기존 파이프라인은 그 페이지들을 통째로 건너뛰었고, 사용자가 “이 다이어그램에서 전류 방향이 어떻게 되나요”라고 물었을 때 시스템은 완전히 엉뚱한 답을 내놨다. 그때 처음으로 “멀티모달 RAG를 진지하게 붙여야겠다”는 결심을 했다. 그런데 막상 자료를 찾아보니 다들 멀티모달이라는 단어를 너무 쉽게 쓰고 있었다. 이미지 하나 첨부 가능하게 … Read more

Graphwise 완전 정복 – GraphRAG 플랫폼 소개부터 실무 활용까지

graphwise_graphrag

AI를 도입한 기업의 70% 이상이 적어도 하나의 업무 기능에 AI를 붙였다. 그런데 프로덕션 규모로 성공적으로 배포한 곳은 11%에 불과하다는 조사 결과가 있다. 파일럿에서 멈추는 이유는 대부분 모델이 나빠서가 아니다. 모델에 들어가는 데이터가 준비가 안 돼 있어서다. Graphwise는 이 문제를 정면으로 겨냥한 플랫폼이다. 2024년 Ontotext와 Semantic Web Company가 합병해서 만들어진 회사인데, 두 곳 모두 20년 넘게 … Read more

GraphDB, pgvector 비교 – 그래프 DB, 벡터 DB 선택과 결정

graphdb-vs-pgvector-rag-comparison

pgvector를 RAG에 붙이고 꽤 만족스럽게 쓰고 있었다. 이미 PostgreSQL을 쓰고 있었고, 확장 하나 설치하면 벡터 검색까지 되니까 인프라를 늘리지 않아도 됐다. 문서 수가 수십만 건 수준일 때는 HNSW 인덱스로 응답 속도도 충분했고, BM25 하이브리드 검색까지 붙이니까 검색 품질도 나쁘지 않았다. 그러다 어느 날 질문 하나가 들어왔다. “이 계약서에 등장하는 모든 법인이 서로 어떻게 연결돼 있고, … Read more

RAG를 도입했는데도 AI가 틀린 답을 내놓는 이유! GraphRAG가 해결하는 방식

graphrag_rag

RAG를 붙이면 환각이 줄어든다고 했다. 분명히 줄긴 했다. 그런데 없어지지는 않았다. LangGraph 기반 RAG 시스템을 직접 운영하면서 가장 자주 들은 피드백이 “왜 이 질문에는 제대로 답을 못 하지?”였다. 단순한 사실 조회는 잘 됐다. 그런데 조금만 복잡해지면 흔들렸다. 여러 개체의 관계를 엮어서 추론해야 하는 질문, 전체 데이터에서 패턴을 찾아야 하는 질문에서 벡터 검색 기반 RAG는 근본적인 … Read more

RAG가 틀리는 이유! 벡터 검색의 한계와 GraphRAG가 다른 점

graphrag_rag_diff

RAG를 처음 도입했을 때 기대가 컸다. LLM이 학습하지 않은 사내 데이터를 실시간으로 검색해서 답변에 쓴다는 아이디어는 당시로선 꽤 혁신적으로 들렸다. 실제로 환각이 줄었다. 아무 맥락 없이 LLM에게만 물어보던 때보다는 확실히 나아졌다. 그런데 쓸수록 이상한 게 보이기 시작했다. 단순한 질문에는 잘 답하는데, 조금만 복잡해지면 흔들렸다. “이 프로젝트 담당자가 지난 분기에 진행한 다른 프로젝트와 예산이 겹치는 부분이 … Read more