RAG 에이전트 실무
지난주에 클라이언트한테서 받은 계약서 PDF가 87페이지였다. 처음 몇 장을 넘기다가 문득 이런 생각이 들었다. 어차피 요즘 AI 세 개나 매일 켜놓고 사는데, 굳이 내가 눈 아프게 다 읽을 필요가 있나. 그래서 ChatGPT, Gemini, Claude에 똑같은 파일을 넣고 요약을 시켜봤다. 처음에는 그냥 시간 아끼려고 시작한 일이었는데, 결과를 보다 보니 세 개가 생각보다 너무 다르게 반응해서 오히려 … Read more
지난주에 짧은 유튜브 쇼츠 하나를 만들어야 할 일이 생겼다. 촬영 장비도 없고 편집 실력도 부족한 상황에서 결국 AI 영상 생성 사이트를 찾아 헤매게 됐다. 그런데 막상 검색해보니 이름도 낯선 서비스가 너무 많았다. 소라, 클링, 비오, 픽버스, 런웨이, 씨댄스까지 각자 강점이 다르다는데 뭐가 뭔지 구분이 안 됐다. 나는 매일 Qwen2.5-VL 같은 비전 언어 모델로 이미지를 다루는 … Read more
몇 달 전 우연히 유튜브 광고 하나를 봤다. “AI 하나로 하루 30분, 월 천만원” 이런 문구가 화면 가득 떠 있었다. 나는 매일 vLLM 서버를 돌리고 LangGraph로 에이전트를 짜는 사람이다. 이 바닥에서 AI가 실제로 뭘 할 수 있고 뭘 못하는지 누구보다 잘 안다고 자부하는데, 저런 광고를 볼 때마다 답답함이 밀려온다. AI로 돈을 버는 게 불가능하다는 뜻이 … Read more
지난주 친구가 물었다. 회사에서 유료 AI 구독을 하나만 지원해준다는데, 챗GPT랑 제미나이 중에 뭘 골라야 하냐고. 나는 잠깐 말문이 막혔다. 매일 LangGraph로 에이전트를 짜고 vLLM 서버를 운영하는 입장에서는 두 모델을 API로 자주 비교하지만, 정작 일반 사용자 입장에서 “그래서 뭘 써야 하나요”라는 질문에 한 줄로 답하기는 생각보다 어려운 문제였다. 벤치마크 점수만 나열해서는 친구의 실제 업무에 도움이 안 … Read more
며칠 전 지인이 챗GPT에게 이메일 하나 써달라고 했다가 실망했다는 이야기를 했다. “거래처에 사과 메일 좀 써줘”라고 입력했더니 나온 답이 너무 형식적이고 딱딱해서 결국 자기가 처음부터 다시 썼다는 것이다. 나는 그 이야기를 듣고 챗GPT 문제가 아니라 질문 방식의 문제라는 걸 바로 알아챘다. 나는 매일 LangGraph로 멀티에이전트 시스템을 짜고 RAG 파이프라인을 튜닝하는 일을 한다. 그 과정에서 가장 … Read more