RAG 에이전트 실무
작년 이맘때쯤 지인 회사에서 이런 이야기를 들었다. AI 챗봇 하나 들이면서 고객센터 인원의 삼분의 일을 줄였다고, 이제 야근도 없고 인건비도 확 줄었다고 자랑처럼 말했다. 반년쯤 지나 그 회사 소식을 다시 들었는데, 이번엔 정반대였다. 고객센터 경력자를 다시 뽑는다는 채용 공고가 떴다는 것이다. 나는 이 이야기를 듣고 놀라지 않았다. RAG 시스템을 매일 다루는 입장에서, 이런 결말은 이미 … Read more
한 달 전쯤 회사 워크플로우 자동화를 새로 짜야 하는 상황이 생겼다. 고객 문의가 들어오면 RAG 파이프라인으로 관련 문서를 검색하고, 답변 초안을 만들고, 담당자에게 슬랙으로 알림을 보내는 구조였다. 처음엔 Dify로 전체를 구축했다. 화면이 깔끔하고 LLM 워크플로우를 만드는 데 특화된 느낌이 강해서 며칠은 만족스러웠다. 그런데 외부 API 몇 개를 붙이고, 조건 분기가 복잡해지고, 커스텀 로직이 필요해지는 순간부터 … Read more
도쿄 빅사이트에서 열린 2026 재팬 IT 위크 현장에서 한국 스타트업 경영진들이 공통적으로 한 말이 있다. “일본은 아직도 RPA다.” 무하유 COO 김희수 씨는 일본의 트렌드 변화 속도가 한국보다 3~4년 늦다고 진단했다. 지난해까지 재팬 IT 위크의 핵심 키워드가 RPA였는데, 올해 들어서야 에이전틱 AI가 서서히 관심을 받기 시작했다는 얘기다. 이 말을 들었을 때 두 가지 생각이 교차했다. 하나는 … Read more
AI 에이전트를 처음 만들어보던 시절이 있었다. 그때 제일 많이 막혔던 지점이 “이 에이전트가 실제로 뭔가를 하게 만들려면 어떻게 해야 하지?”였다. 텍스트 생성은 잘 됐다. 근데 에이전트가 웹사이트에 들어가서 정보를 긁어오고, 양식을 채우고, 버튼을 누르는 것까지 연결하는 건 전혀 다른 문제였다. LLM이 답을 알아도, 그 답을 실행에 옮기는 부분은 개발자가 직접 설계해야 했다. 2026년 현재, 그 … Read more
요약 올라마는 로컬 머신에서 대형 언어 모델을 간단하게 실행할 수 있는 오픈소스 플랫폼으로, 최근 v0.10.0 업데이트를 통해 더욱 강력해졌습니다. 이 글에서는 올라마의 최신 기술을 활용한 10가지 실전 활용 방법을 소개합니다. 개인 PC부터 엔터프라이즈 서버까지, 올라마로 할 수 있는 모든 것을 알아보세요. “클라우드 AI 서비스 비용이 너무 비싸다” “내 데이터를 외부 서버에 보내고 싶지 않다” “인터넷 … Read more