AI 에이전트, LangGraph, RAG
며칠 전 한 고객사에서 토큰 청구서를 받아 든 부서장이 “이거 진짜 맞느냐”라고 두 번 물어왔다. 원래 챗봇 PoC 한 달 비용으로 300만 원 정도 잡아두었던 항목이, 정식 운영에 들어간 다음 달 청구서에서 1,800만 원으로 찍혀 나왔다고 한다. 무엇이 잘못된 게 아니었다. 챗봇이 단순 질의응답에서 다단계 추론과 도구 호출이 들어간 ‘에이전트’로 진화하면서 토큰 사용량이 6배 가까이 … Read more
인텔 신임 CEO 립부 탄이 1분기 실적 발표 자리에서 슬쩍 흘린 숫자 하나가 며칠째 머릿속에서 맴돌고 있다. “AI 학습은 CPU 1개와 GPU 7~8개를 조합했다면, AI 추론은 CPU 1개와 GPU 3~4개를 결합한다.” 그러면서 그는 “에이전틱(자율) AI와 멀티 에이전트 시대에는 반대 방향으로 바뀔 수도 있다”고 덧붙였다. 별것 아닌 비율 이야기처럼 들리지만, 인프라 쪽 일을 해본 사람이라면 이 … Read more
지난주 한 저축은행 프로젝트 킥오프에 불려 갔다가, 회의실에서 꽤 낯선 장면을 봤다. “AI 개발자 두 명, RPA 운영 인력 세 명, AI 에이전트 팀장 한 명을 2월 안에 뽑아야 합니다.” 인사 담당자가 채용 요건을 읊는데, 나는 RPA라는 단어가 그렇게 또렷하게 들린 게 오랜만이었다. 한때 “곧 사라질 기술”이라고 썼던 분석 리포트가 불과 2년 전 일인데, 현장은 … Read more
도쿄 빅사이트에서 열린 2026 재팬 IT 위크 현장에서 한국 스타트업 경영진들이 공통적으로 한 말이 있다. “일본은 아직도 RPA다.” 무하유 COO 김희수 씨는 일본의 트렌드 변화 속도가 한국보다 3~4년 늦다고 진단했다. 지난해까지 재팬 IT 위크의 핵심 키워드가 RPA였는데, 올해 들어서야 에이전틱 AI가 서서히 관심을 받기 시작했다는 얘기다. 이 말을 들었을 때 두 가지 생각이 교차했다. 하나는 … Read more
지난 며칠 사이 업종이 완전히 다른 세 곳에서 비슷한 내용의 발표가 나왔다. 우리금융캐피탈은 AI 비서가 견적부터 심사·상담까지 전사 업무를 처리하는 AX 전환을 본격화한다고 했다. 기아는 2029년까지 49조 원을 투자해 꽃공정 자동화와 휴머노이드 로봇 도입을 추진한다고 했다. 과기부는 AI-NEXT 프로젝트를 통해 정부 업무 전반에 AI 에이전트를 도입한다고 했다. 그리고 서비스나우는 “SaaS가 죽는다는 말은 틀렸다. AI 서비스 … Read more