AI 실무 가이드와 엔지니어링 노트
AI 에이전트를 처음 만들어보던 시절이 있었다. 그때 제일 많이 막혔던 지점이 “이 에이전트가 실제로 뭔가를 하게 만들려면 어떻게 해야 하지?”였다. 텍스트 생성은 잘 됐다. 근데 에이전트가 웹사이트에 들어가서 정보를 긁어오고, 양식을 채우고, 버튼을 누르는 것까지 연결하는 건 전혀 다른 문제였다. LLM이 답을 알아도, 그 답을 실행에 옮기는 부분은 개발자가 직접 설계해야 했다. 2026년 현재, 그 … Read more
오픈클로를 설치하고 첫 대화까지 성공했다면, 이제 진짜 재미있는 단계가 남았다. 바로 스킬(Skill) 개발이다. 오픈클로의 기본 상태는 똑똑한 대화 상대에 가깝다. 질문하면 대답하고, 시키면 해준다. 그런데 스킬을 붙이는 순간, 성격이 완전히 달라진다. 매일 아침 9시에 이메일을 정리해서 텔레그램으로 보내주고, 특정 웹사이트의 가격 변동을 모니터링해서 조건에 맞으면 알림을 보내고, 깃허브 PR 상태를 주기적으로 점검해서 슬랙에 리포트를 올린다. … Read more
브라우저를 열고 Gemini한테 말을 건네는 데 걸리는 시간은 1~2초 남짓이다. 근데 그 1~2초 사이에 무슨 일이 일어나는지 생각해본 적 있는가. 수천억 개의 파라미터를 가진 모델이 사용자 입력을 이해하고, 문맥을 파악하고, 자연스러운 답변을 생성해서 돌려보내는 과정이 그 짧은 시간 안에 전부 완료된다. 이게 가능한 이유는 Gemini 뒤에서 조용히 돌아가는 인프라 때문이다. GPU 기반 서버를 쌓아놓는 것만으로 … Read more
솔직히 말하면, 처음 LangGraph를 접했을 때 “이게 왜 필요하지?”라는 생각이 먼저 들었다. LangChain만으로도 충분하지 않나. 프롬프트 엔지니어링 잘하면 그만 아닌가. 그런데 실제로 멀티에이전트 시스템을 프로덕션에 올려본 사람이라면 알 것이다. 에이전트가 두 개만 넘어가도 상태 관리가 지옥이 된다는 걸. 2024년부터 2025년에 걸쳐 AI 개발 생태계에서 가장 뜨거운 키워드 중 하나가 바로 LangGraph였다. GPT-5 시대를 앞두고 단순한 … Read more
지금 이 글을 읽고 있는 당신, 아마 Chrome 브라우저로 열었을 가능성이 높다. 전 세계 인터넷 사용자 중 65% 이상이 Chrome을 쓰고 있으니까. 그런데 최근 들어 뭔가 이상한 낌새가 느껴지지 않는가? 주소창 옆에 생겨난 낯선 아이콘, 사이드바에서 슬쩍 등장하는 AI 어시스턴트, 탭을 넘나들며 요약해주는 기능들. 단순한 업데이트가 아니다. Google이 지금 Chrome을 완전히 다른 무언가로 바꾸고 있다. … Read more
회사에서 ChatGPT 쓰다가 한 번쯤 이런 생각 해본 적 없는가. “이 데이터, 외부 서버로 나가도 괜찮은 건가?” 실제로 2023년 삼성전자 반도체 부문에서 챗GPT에 소스코드를 입력한 사건 이후, 국내 대기업 상당수가 외부 AI 서비스 이용을 제한하기 시작했다. 그리고 2026년 지금, 상황은 더 심각해졌다. AI 기본법 시행을 앞두고 데이터 거버넌스에 대한 압박이 커지면서, 기업이든 개인 개발자든 “내 … Read more
작년까지만 해도 LLaMA 3 시리즈에 LM Studio 0.3을 조합해서 로컬 AI를 돌리는 게 최선이었다. 그런데 2025년 4월 메타가 LLaMA 4를 공개하고, LM Studio도 0.4 메이저 업데이트를 거치면서 상황이 완전히 달라졌다. 솔직히 말하면, LLaMA 4 Scout을 처음 H100 한 장에 올렸을 때의 충격이 아직도 생생하다. 이전 세대와는 차원이 다른 멀티모달 성능에 1000만 토큰 컨텍스트 윈도우라니. 그리고 … Read more
Azure AI 시스템을 처음 설계하려고 Portal 앞에 앉았을 때 솔직히 말하면 나도 처음엔 Azure Portal 앞에서 멍하니 앉아 있었다. 수백 개 서비스가 화면 가득 펼쳐져 있는데, 뭘 먼저 눌러야 할지 도통 감이 안 잡혔다. 주변에서는 AI Foundry가 어쩌고, Managed Identity가 저쩌고 하는데, 나는 OpenAI API Key 하나 .env 파일에 넣고 직접 호출하면 되지 왜 이렇게 … Read more
솔직히 고백하자면, 나도 처음에는 Azure에서 AI 시스템을 설계한다고 했을 때 막막했다. Portal에 로그인하면 수백 개의 서비스가 펼쳐지고, 어디서부터 손대야 할지 감이 안 왔다. OpenAI API를 직접 호출하면 되는 걸 왜 굳이 Azure를 끼고 복잡하게 만들어야 하지? 그때는 진심으로 그렇게 생각했다. 그런데 실제로 기업 환경에서 AI 서비스를 운영하면서 생각이 완전히 바뀌었다. API Key 하나 유출되면 수천만 … Read more
솔직히 말하면, 나도 처음에는 오픈클로가 뭔지 정확히 몰랐다. 트위터에서 “AI가 내 대신 이메일 정리하고, 일정 잡고, 코드까지 돌린다”는 글을 봤을 때 반신반의했다. 그런데 실제로 깔아보니까 진짜였다. 텔레그램으로 “내일 오전 10시 미팅 잡아줘”라고 보내면 캘린더에 알아서 등록되고, “어제 온 메일 중에 급한 거 정리해줘”라고 하면 요약본이 날아온다. 이건 챗봇이 아니라 진짜 비서다. 그런데 문제가 하나 있다. … Read more