RAG 에이전트 실무
RAG 시스템, LangGraph 멀티에이전트, FastAPI 백엔드, 벡터 데이터베이스 등 AI 시스템을 직접 설계하고 구현하는 과정을 다룹니다. 실제 프로젝트 경험을 바탕으로 한 구현 가이드와 트러블슈팅을 공유합니다.
작년부터 고객사 PoC에 들어갈 때마다 같은 장면이 반복된다. “저희도 RAG 한번 깔아봤는데, 답을 너무 자주 지어내요.” 이 말을 듣는 빈도가 한 달이 멀다 하고 늘어났다. 얼마 전에는 한 제조 대기업 IT 본부장이 더 솔직한 표현을 던졌다. “이거 자료에서 직접 가져온 답인지, GPT가 그럴듯하게 만든 답인지 내가 판별할 수 없으면 임원 보고에 못 올려요.” 그분 입장이 … Read more
작년 한 해 동안 가장 많이 받은 질문 중 하나가 “팔란티어가 도대체 뭐 하는 회사예요”였다. 흥미롭게도 질문하는 사람들의 직군이 완전히 갈렸다. 주식 투자를 하는 분들은 이미 답을 알고 있었다. 시가총액이 천문학적으로 뛰어오른 그 미국 회사. 반면 AI 엔지니어 쪽에서 일하는 분들은 의외로 잘 몰랐다. 알아도 “정부 데이터 분석하는 회사 아니에요?” 정도에서 멈췄다. 이 격차가 흥미로웠다. … Read more
“약점을 찾아 침투하라.” 단 한 줄의 명령어가 27년간 검증된 운영체제 보안을 무너뜨렸다. 지난주 앤트로픽이 공개한 AI 모델 미토스(Claude Mythos Preview)가 오픈BSD에서 27년 동안 발견되지 않았던 버그를 단 몇 분 만에 찾아냈다. 이 소식이 전해지자 크라우드스트라이크와 팔로알토 네트웍스 주가가 7%씩 급락했다. 지스케일러도 8.6% 하락했다. 수십 억 달러 규모의 보안 기업들이 하루 만에 흔들렸다. 나는 이 뉴스를 … Read more
기업용 소프트웨어 시장에서 이렇게 짧은 시간 안에 동시다발적인 신호가 나온 적이 없었다. LG CNS와 SAP가 공동으로 ‘Business AI for ERP Summit’을 열고 에이전틱 AI 기반 차세대 ERP 전략을 발표했다. 같은 시기에 앤트로픽은 Claude Cowork를 정식 출시하면서 역할 기반 접근 제어와 MCP 권한 관리를 전면에 내세웠다. 우연의 일치가 아니다. 지금 엔터프라이즈 소프트웨어 전체가 에이전틱 AI로의 전환을 … Read more
AI 전환이라는 말이 워낙 많이 쓰이다 보니 실제로 어디서 돈이 나는지 흐릿해진 감이 있다. 컨퍼런스에서 “우리도 AI 도입했다”는 발표는 넘쳐나는데, 재무제표에 숫자가 찍히는 경우는 생각보다 적다. 그래서 최근 두 가지 사례가 눈에 들어왔다. 플래티어는 2025년 매출을 전년 대비 30% 늘렸다. 적자 폭도 37% 가까이 줄었다. 3년 가까이 이어지던 실적 하락을 뒤집은 핵심 동력이 AX 부문이었다. … Read more