AI 실무 가이드와 엔지니어링 노트
며칠 전 한 고객사에서 토큰 청구서를 받아 든 부서장이 “이거 진짜 맞느냐”라고 두 번 물어왔다. 원래 챗봇 PoC 한 달 비용으로 300만 원 정도 잡아두었던 항목이, 정식 운영에 들어간 다음 달 청구서에서 1,800만 원으로 찍혀 나왔다고 한다. 무엇이 잘못된 게 아니었다. 챗봇이 단순 질의응답에서 다단계 추론과 도구 호출이 들어간 ‘에이전트’로 진화하면서 토큰 사용량이 6배 가까이 … Read more
요즘 국내 자동화 시장에서 ‘RPA가 끝났다’는 말과 ‘에이전틱 AI로 넘어간다’는 말이 동시에 떠다닌다. 서울 서초구 엘타워에서 4월 17일 열린 ‘AX & 하이퍼오토메이션 코리아 2026-Spring’ 발표 자료를 살펴보다가 이 두 흐름을 정면으로 다루는 한 장면이 눈에 들어왔다. 그리드원 김계관 대표가 ‘GO;DO Agentic Automation Platform’이라는 이름으로 풀어낸 자율형 엔터프라이즈 청사진이다. 단순한 RPA 회사의 신제품 발표라고 보기에는 구조가 … Read more
데모 영상에서 완벽하게 작동하는 AI 에이전트와, 실제 업무 현장에서 굴러가는 AI 에이전트는 완전히 다른 물건이다. 지난달 LangGraph 기반 멀티에이전트 시스템을 한 고객사에 납품하면서 다시 한 번 절감한 점이다. POC 단계에서는 시연이 매끄러운데, 실제 데이터와 실제 업무 플로우에 붙이는 순간 문제가 줄줄이 터져 나온다. 문서 포맷이 제각각이고, 결재선이 뒤엉켜 있고, 예외 케이스가 전체의 20%를 넘어간다. 이걸 … Read more
도쿄 빅사이트에서 열린 2026 재팬 IT 위크 현장에서 한국 스타트업 경영진들이 공통적으로 한 말이 있다. “일본은 아직도 RPA다.” 무하유 COO 김희수 씨는 일본의 트렌드 변화 속도가 한국보다 3~4년 늦다고 진단했다. 지난해까지 재팬 IT 위크의 핵심 키워드가 RPA였는데, 올해 들어서야 에이전틱 AI가 서서히 관심을 받기 시작했다는 얘기다. 이 말을 들었을 때 두 가지 생각이 교차했다. 하나는 … Read more
기업용 소프트웨어 시장에서 이렇게 짧은 시간 안에 동시다발적인 신호가 나온 적이 없었다. LG CNS와 SAP가 공동으로 ‘Business AI for ERP Summit’을 열고 에이전틱 AI 기반 차세대 ERP 전략을 발표했다. 같은 시기에 앤트로픽은 Claude Cowork를 정식 출시하면서 역할 기반 접근 제어와 MCP 권한 관리를 전면에 내세웠다. 우연의 일치가 아니다. 지금 엔터프라이즈 소프트웨어 전체가 에이전틱 AI로의 전환을 … Read more
솔직히 말하면, 처음 LangGraph를 접했을 때 “이게 왜 필요하지?”라는 생각이 먼저 들었다. LangChain만으로도 충분하지 않나. 프롬프트 엔지니어링 잘하면 그만 아닌가. 그런데 실제로 멀티에이전트 시스템을 프로덕션에 올려본 사람이라면 알 것이다. 에이전트가 두 개만 넘어가도 상태 관리가 지옥이 된다는 걸. 2024년부터 2025년에 걸쳐 AI 개발 생태계에서 가장 뜨거운 키워드 중 하나가 바로 LangGraph였다. GPT-5 시대를 앞두고 단순한 … Read more
솔직히 말하면 멀티에이전트 시스템이라는 말을 처음 들었을 때 나는 좀 회의적이었다. 에이전트 하나도 제대로 만들기 어려운데 여러 개를 동시에 돌린다고? 그게 정말 프로덕션 환경에서 돌아갈까? 그런데 LangGraph 1.0이 2025년 10월에 정식 릴리스되면서 이 생각이 완전히 바뀌었다. Uber, LinkedIn, Klarna 같은 글로벌 기업들이 이미 프로덕션에서 LangGraph를 쓰고 있다는 사실을 알게 되면서 나도 본격적으로 파고들기 시작했다. 특히 … Read more
첫 메시지는 10초, 100번째는 30초가 되는 이유 당신의 에이전트가 처음에는 빠르지만 대화가 길어질수록 느려지는 현상을 겪었나요? 사용자와 나눈 대화가 50개, 100개를 넘어가면서 응답 속도가 점점 떨어집니다. 가끔 타임아웃이 나기도 합니다. 같은 모델인데 왜 이런 일이 일어날까요? 문제는 모델이 아닙니다. 문제는 당신이 과거의 모든 대화를 프롬프트에 집어넣고 있다는 점입니다. 지금 이 순간, 사용자의 마지막 메시지 하나를 … Read more
핵심 요약 최근 AI 에이전트 개발 시장에서 노코드 플랫폼이 급부상하고 있습니다. 개발자가 아니어도 드래그 앤 드롭만으로 복잡한 멀티에이전트 시스템을 구축할 수 있게 되면서, 기업들의 AI 도입 장벽이 크게 낮아지고 있습니다. 이 글에서는 노코드 에이전트 플랫폼이 어떻게 실제 코드와 연결되는지, 요약·RAG·라우팅·검증 에이전트를 어떻게 조합하는지, 그리고 LangGraph 기반의 플로우 설계 핵심을 실무 관점에서 풀어드립니다. “코딩 없이 AI … Read more
핵심 요약 생성형 RAG(Retrieval-Augmented Generation)를 제대로 구축하려면 단순히 검색과 생성을 연결하는 것만으로는 부족합니다. NLP 기술을 활용한 정교한 문서 처리와 에이전트 전략을 통한 지능적인 정보 활용이 필수입니다. 최신 RAG 시스템은 쿼리 재작성, 하이브리드 검색, 컨텍스트 압축, 멀티 에이전트 협업 등을 통해 답변 품질을 극적으로 향상시키고 있습니다. 요즘 AI 챗봇이나 검색 시스템을 만들다 보면 RAG라는 단어를 빼놓을 … Read more