AI 에이전트, LangGraph, RAG
최근 몇 달간 Azure에서 대형 언어 모델을 서빙해야 하는 상황이 자주 생긴다. 특히 한국 기업들이 AI를 실제 서비스에 녹여내려고 할 때 그렇다. 그럼 대부분 이런 고민을 한다. “OpenAI API만 쓰면 안 되나? 왜 굳이 직접 모델을 서빙해야 하지?” 그 답은 간단하다. 비용, 지연시간, 그리고 데이터 프라이버시다. 직접 모델을 서빙하면 OpenAI 같은 외부 API에 의존하지 않아도 … Read more
요즘 IT 담당자들이 자주 받는 질문이 있다. “AI 도입할 때 Azure OpenAI를 써야 하나, 아니면 OpenAI API를 직접 쓰면 되지 않나?” 겉으로는 단순한 질문이지만, 이 선택이 회사의 보안, 비용, 그리고 향후 AI 전략에 미치는 영향은 생각보다 크다. 지난 몇 년간 여러 기업의 AI 도입 과정을 지켜보면서 느낀 거지만, 많은 기업들이 처음엔 “API 직접 쓰면 간단하고 … Read more
제조업 R&D 담당자라면 이런 고민을 해봤을 거다. 신제품 개발할 때마다 수십억 원대의 시제품 제작비가 들어가고, 테스트 비용도 만만치 않다. 실패할 수도 있는데 투자는 이미 다 한 상황. 그런데 요즘 몇몇 선진 제조업체들은 다르게 움직이고 있다. 물리적 시제품을 만들기 전에 가상 공간에서 수백 번, 수천 번 시뮬레이션을 하는 거다. 비용은 몇 분의 일로 줄이면서도 더 정확한 … Read more
저도 처음 Azure를 배울 때 정말 헷갈렸습니다. “App Registration이 있고, App Service도 있고, 그럼 뭐가 다른데?” 특히 회사에서 Databricks를 연결하고, PostgreSQL을 사용하라고 하면서 “App Registration도 해야 하나요?” 라는 질문을 받을 때마다 제대로 설명하기 어려웠습니다. 그런데 한 가지 깨달았습니다. 이 둘을 올바르게 이해하면 Azure의 80% 이상의 작업이 명확해진다는 것입니다. 이번 글에서는 정말로 실무에 필요한 개념들을 명확하게 … Read more
올해 들어 기업의 IT 환경이 또 한 번 변화하고 있습니다. 특히 지난 1월 7일, 마이크로소프트는 Microsoft Entra ID의 보안 인증서를 대대적으로 교체했고, 이와 함께 새로운 기능들이 속속 출시되고 있습니다. 저도 며칠 전 회사 IT팀으로부터 긴급 공지를 받았을 때 “또 뭐가 바뀐 건가”라고 생각했습니다. 하지만 자세히 살펴보니 이번 변화들은 우리가 꼭 이해해야 할 중요한 업데이트들이었습니다. 특히 … Read more