AI 실무 가이드와 엔지니어링 노트
RAG 시스템, LangGraph 멀티에이전트, FastAPI 백엔드, 벡터 데이터베이스 등 AI 시스템을 직접 설계하고 구현하는 과정을 다룹니다. 실제 프로젝트 경험을 바탕으로 한 구현 가이드와 트러블슈팅을 공유합니다.
요약: Python은 더 이상 AI의 유일한 선택지가 아니다 2024년까지만 해도 생성형 AI 에이전트와 RAG 시스템을 구축하려면 Python이 필수였습니다. LangChain, LangGraph, AutoGen 등 모든 주요 프레임워크가 Python을 먼저 지원했거든요. 하지만 2025년은 달라졌습니다. Flowise, LangChain.js, LangGraph.js를 중심으로 Node.js 생태계가 빠르게 성숙하고 있고, 실제로 프로덕션 환경에서 성공 사례들이 나타나고 있습니다. 특히 주목할 점은 LangChain.js 코어 패키지가 주당 120만 … Read more
파인튜닝 프로젝트에서 맞닥뜨리는 가장 흔한 실수 데이터 품질 문제로 파인튜닝이 실패하는 경우가 점점 늘어나고 있습니다. 작년만 해도 글로벌 데이터 라벨링 시장이 224억 달러에 달했으며, 2035년까지 834억 달러로 성장할 것으로 예상되는 시점에서 흥미로운 현상입니다. 기업들이 엄청난 규모의 데이터를 수집하고 있지만, 정작 모델 성능 개선으로는 이어지지 않는 경우가 많다는 뜻이거든요. 최근 실무에서 파인튜닝 프로젝트를 진행하면서 깨닫게 된 … Read more
최신 보안 경보: Node.js 취약점 공지 2025년 1월 Node.js에서는 워커 권한 우회 취약점(CVE-2025-23083)을 포함한 4개의 심각한 보안 취약점을 발표했습니다. 영향을 받는 버전은 v18.20.6, v20.18.2, v22.13.1, v23.6.1 이하입니다. 많은 회사들이 여전히 지원 종료된 버전을 사용 중이라는 점이 문제죠. 이것이 단순한 뉴스가 아닌 이유는 명확합니다. 당신의 서버가 해킹될 수도 있다는 뜻이거든요. 그런데도 많은 팀들이 버전 관리를 미루고 … Read more
주요 기사 요약 2025년 기준 기업 검색 시스템 중 70% 이상이 semantic 기술을 통합했으며, 이는 2019년 30% 미만에서 급증한 수치다. 하지만 실무에서는 semantic search가 모든 상황에 적합하지 않다는 것이 드러났다. 기술 문서 검색, SKU 조회, 법률 문서 검색 등 특정 분야에서는 keyword search의 정확도가 semantic search를 능가한다. 전문가들은 “semantic search는 의도를 이해하지만 keyword search는 명확한 … Read more
주요 기사 요약 2026년 RAG 최적화 연구에서는 청킹 전략이 검색 정확도에 미치는 영향이 상당함이 확인되었다. 일반적으로 200~500 토큰(약 150~400 단어) 범위를 사용하지만, OpenAI의 text-embedding-ada-002는 256 또는 512 토큰 블록에서 최적 성능을 보인다. TableRAG의 경우 구조화된 데이터 처리로 10~20% 정확도 향상을, 금융 및 재고 관리 시스템은 30% 개선을 보고했다. 특히 청킹 전략을 잘못 선택하면 중요한 개념이 … Read more
주요 기사 요약 2026년 LLM 통합 개발자들은 Output 포맷 강제의 문제를 지속적으로 마주친다. OpenAI의 최신 연구에서는 LLM이 JSON 형식으로 코드를 반환할 때 Markdown으로 반환하는 것보다 성능이 떨어진다는 것을 발견했다. Google의 Gemini는 response_mime_type 파라미터로 JSON 출력을 강제할 수 있으며, lm-format-enforcer와 outline 같은 오픈소스 도구들은 Grammar 기반 제약을 통해 정확한 형식 준수를 보장한다. 특히 금융, 의료, 데이터 … Read more
주요 기사 요약 2026년 최신 논문에서는 다양한 모델 크기(1B부터 80B)에서 온도값 0.1부터 1.9까지의 영향을 체계적으로 분석했다. 특히 질문 답변, 감정 분석, 수학 문제 해결, 창의적 글쓰기, 지시 준수, 번역 등 6개 능력에서 온도에 따른 성능 차이를 확인했다. 연구 결과, 온도 2.0 이상은 일관성 없고 정보 가치가 낮은 텍스트를 생성하는 것으로 나타났다. 특히 주목할 점은 “온도는 … Read more
주요 기사 요약 2026년 OWASP는 LLM 애플리케이션의 최우선 보안 위협 1순위로 ‘프롬프트 인젝션’을 꼽았다. 실제로 Microsoft 365 Copilot의 EchoLeak(CVE-2025-32711)이 제로 클릭 프롬프트 인젝션 취약점으로 공개되었고, CurXecute 공격은 소프트웨어 개발 환경에서 원격 코드 실행을 가능하게 했다. Bing Chat은 사이트에 숨겨진 지시문으로 인해 민감한 시스템 정보를 노출했으며, AI 보안 도구를 겨냥한 Skynet 악성코드는 악성 파일을 안전한 것으로 … Read more
주요 기사 요약 2026년 초거대 언어모델 분야에서 주목받는 기술은 Few-shot Learning이다. IBM과 Google이 발표한 최신 보고서에 따르면, 제한된 예시만으로도 모델의 성능을 극적으로 향상시킬 수 있다는 것이 증명되었다. 특히 금융 분야에서 GPT-4는 FinQA 데이터셋에서 78% 정확도를 달성했으며, 이는 평균적인 인간의 점수를 능가하는 수준이다. 또한 프롬프트 기반 메타 러닝(Meta-Learning)과 프로토타입 네트워크가 컴퓨터 비전에서 혁신적인 성과를 보이고 있다. … Read more
“이게 진짜 되나? 프롬프트 한 줄만 추가했는데?” 처음 이 현상을 본 건 어떤 개발자의 깃허브 이슈였다. 수학 문제를 푸는 LLM의 정확도가 18%에서 57%로 올라갔다는 내용이었다. 처음엔 믿기지 않았다. 모델을 다시 학습시킨 것도 아니고, 더 큰 모델로 바꾼 것도 아닌데 어떻게 40% 가까이 올라갈 수 있을까. 하지만 더 찾아본 결과 이건 실제로 일어나는 일이었고, 지금 업계에서는 … Read more