AI 에이전트, LangGraph, RAG
RAG 시스템, LangGraph 멀티에이전트, FastAPI 백엔드, 벡터 데이터베이스 등 AI 시스템을 직접 설계하고 구현하는 과정을 다룹니다. 실제 프로젝트 경험을 바탕으로 한 구현 가이드와 트러블슈팅을 공유합니다.
이런 경험 있나요? 도구 목록이 30개만 되어도 LLM이 헤맨다 개발자들이 LLM 에이전트를 만들면서 가장 흔하게 겪는 문제가 뭘까요? 바로 Tool Calling입니다. 사용자 요청을 받은 LLM이 필요한 도구를 선택해서 호출하는 것 같은데, 도구 개수가 조금 늘어나면 정확도가 확 떨어집니다. 웹 검색 도구, 데이터베이스 조회 도구, API 호출 도구, 계산기, 캘린더, 이메일 등 실무에서 쓸 만한 도구들을 … Read more
요약: Python은 더 이상 AI의 유일한 선택지가 아니다 2024년까지만 해도 생성형 AI 에이전트와 RAG 시스템을 구축하려면 Python이 필수였습니다. LangChain, LangGraph, AutoGen 등 모든 주요 프레임워크가 Python을 먼저 지원했거든요. 하지만 2025년은 달라졌습니다. Flowise, LangChain.js, LangGraph.js를 중심으로 Node.js 생태계가 빠르게 성숙하고 있고, 실제로 프로덕션 환경에서 성공 사례들이 나타나고 있습니다. 특히 주목할 점은 LangChain.js 코어 패키지가 주당 120만 … Read more
파인튜닝 프로젝트에서 맞닥뜨리는 가장 흔한 실수 데이터 품질 문제로 파인튜닝이 실패하는 경우가 점점 늘어나고 있습니다. 작년만 해도 글로벌 데이터 라벨링 시장이 224억 달러에 달했으며, 2035년까지 834억 달러로 성장할 것으로 예상되는 시점에서 흥미로운 현상입니다. 기업들이 엄청난 규모의 데이터를 수집하고 있지만, 정작 모델 성능 개선으로는 이어지지 않는 경우가 많다는 뜻이거든요. 최근 실무에서 파인튜닝 프로젝트를 진행하면서 깨닫게 된 … Read more
최신 보안 경보: Node.js 취약점 공지 2025년 1월 Node.js에서는 워커 권한 우회 취약점(CVE-2025-23083)을 포함한 4개의 심각한 보안 취약점을 발표했습니다. 영향을 받는 버전은 v18.20.6, v20.18.2, v22.13.1, v23.6.1 이하입니다. 많은 회사들이 여전히 지원 종료된 버전을 사용 중이라는 점이 문제죠. 이것이 단순한 뉴스가 아닌 이유는 명확합니다. 당신의 서버가 해킹될 수도 있다는 뜻이거든요. 그런데도 많은 팀들이 버전 관리를 미루고 … Read more
주요 기사 요약 2025년 기준 기업 검색 시스템 중 70% 이상이 semantic 기술을 통합했으며, 이는 2019년 30% 미만에서 급증한 수치다. 하지만 실무에서는 semantic search가 모든 상황에 적합하지 않다는 것이 드러났다. 기술 문서 검색, SKU 조회, 법률 문서 검색 등 특정 분야에서는 keyword search의 정확도가 semantic search를 능가한다. 전문가들은 “semantic search는 의도를 이해하지만 keyword search는 명확한 … Read more