AI 에이전트, LangGraph, RAG
지난주 금요일, 보안팀에서 한 통의 전화가 왔다. “Azure OpenAI API 키가 GitHub에 커밋된 게 발견됐어요. 즉시 로테이션 해주세요.” 상황이 얼마나 심각한지는 말할 필요가 없다. 한 명의 개발자가 실수로 키를 노출시켰는데, 그 키로 누구나 당신의 AI 서비스를 이용할 수 있다. 월 청구액이 수천 달러에 이를 수도 있다. 이게 처음 겪는 일이 아니다. 여러 프로젝트를 하면서 API … Read more
최근 한국 증시가 소위 말하는 ‘활화산’ 상태라고 불릴 정도로 뜨거워지고 있습니다. 특히 지난 1주일 사이 코스닥지수가 19.2%나 급등하면서 투자자들 사이에서 이게 진짜 트렌드인지, 아니면 일시적 현상인지에 대한 논쟁이 뜨겁습니다. 이런 와중에 SK하이닉스가 사상 최대 실적을 기록했다는 뉴스가 나왔는데, 이 두 가지 소식이 결국 같은 맥락에서 이해돼야 한다는 점을 아는 투자자는 많지 않습니다. 단순히 “주가가 올랐다”라고 … Read more
AI 모델을 만들었다. 이제 이걸 API로 서빙해야 한다. 그런데 Azure에서 뭘 써야 할까? 이 질문으로 밤을 샌 개발자가 얼마나 될까. Stack Overflow나 GitHub 이슈를 찾아봐도 대부분 일반적인 답변만 있다. “Container Apps는 마이크로서비스용이고, App Service는 전통적인 웹앱용이다”라는 식으로. 하지만 이건 AI API 서빙에는 정확한 답이 아니다. 지난 6개월간 실제로 AI 모델을 여러 환경에서 서빙해봤다. 처음엔 App … Read more
작년까지만 해도 Azure에서 OpenAI 모델을 쓰려면 Azure OpenAI Service를 직접 다뤄야 했다. 약간 복잡했다. 여러 서비스를 오가야 했고, 모니터링도 헷갈렸고, 모델 배포도 손이 많이 갔다. 그런데 올해 1월 기준으로 Azure AI Foundry가 본격적으로 작동하면서 판이 바뀌었다. 이건 단순한 UI 개선이 아니라, 전체 개발 경험을 다시 생각한 플랫폼이다. 내가 처음 Azure AI Foundry를 켰을 때 느낀 … Read more
지난 1월 16일의 은행 금리 현황을 보면 정말 눈물이 난다. 5년 고정형 주담대 금리가 3.88%에서 6.286% 사이를 오가고 있다는 건데, 혼합형은 더 심하다. 4.130%부터 6.297%까지, 거의 7%에 코앞이다. 5년 전만 해도 2.5~4.0% 수준이었는데 말이다. 정확히 2배 가까이 올랐다는 뜻이다. 누군가는 말할 수 있다. “그래도 6%대면 괜찮지 않나?” 하지만 이게 남의 얘기가 아니라 자신의 월급으로 집을 … Read more