RAG 에이전트 실무
Tech Leader 
지금 이 글을 읽고 있는 당신, 아마 Chrome 브라우저로 열었을 가능성이 높다. 전 세계 인터넷 사용자 중 65% 이상이 Chrome을 쓰고 있으니까. 그런데 최근 들어 뭔가 이상한 낌새가 느껴지지 않는가? 주소창 옆에 생겨난 낯선 아이콘, 사이드바에서 슬쩍 등장하는 AI 어시스턴트, 탭을 넘나들며 요약해주는 기능들. 단순한 업데이트가 아니다. Google이 지금 Chrome을 완전히 다른 무언가로 바꾸고 있다. … Read more
회사에서 ChatGPT 쓰다가 한 번쯤 이런 생각 해본 적 없는가. “이 데이터, 외부 서버로 나가도 괜찮은 건가?” 실제로 2023년 삼성전자 반도체 부문에서 챗GPT에 소스코드를 입력한 사건 이후, 국내 대기업 상당수가 외부 AI 서비스 이용을 제한하기 시작했다. 그리고 2026년 지금, 상황은 더 심각해졌다. AI 기본법 시행을 앞두고 데이터 거버넌스에 대한 압박이 커지면서, 기업이든 개인 개발자든 “내 … Read more
작년까지만 해도 LLaMA 3 시리즈에 LM Studio 0.3을 조합해서 로컬 AI를 돌리는 게 최선이었다. 그런데 2025년 4월 메타가 LLaMA 4를 공개하고, LM Studio도 0.4 메이저 업데이트를 거치면서 상황이 완전히 달라졌다. 솔직히 말하면, LLaMA 4 Scout을 처음 H100 한 장에 올렸을 때의 충격이 아직도 생생하다. 이전 세대와는 차원이 다른 멀티모달 성능에 1000만 토큰 컨텍스트 윈도우라니. 그리고 … Read more
Azure AI 시스템을 처음 설계하려고 Portal 앞에 앉았을 때 솔직히 말하면 나도 처음엔 Azure Portal 앞에서 멍하니 앉아 있었다. 수백 개 서비스가 화면 가득 펼쳐져 있는데, 뭘 먼저 눌러야 할지 도통 감이 안 잡혔다. 주변에서는 AI Foundry가 어쩌고, Managed Identity가 저쩌고 하는데, 나는 OpenAI API Key 하나 .env 파일에 넣고 직접 호출하면 되지 왜 이렇게 … Read more
솔직히 고백하자면, 나도 처음에는 Azure에서 AI 시스템을 설계한다고 했을 때 막막했다. Portal에 로그인하면 수백 개의 서비스가 펼쳐지고, 어디서부터 손대야 할지 감이 안 왔다. OpenAI API를 직접 호출하면 되는 걸 왜 굳이 Azure를 끼고 복잡하게 만들어야 하지? 그때는 진심으로 그렇게 생각했다. 그런데 실제로 기업 환경에서 AI 서비스를 운영하면서 생각이 완전히 바뀌었다. API Key 하나 유출되면 수천만 … Read more