AI 실무 가이드와 엔지니어링 노트
브라우저를 열고 Gemini한테 말을 건네는 데 걸리는 시간은 1~2초 남짓이다. 근데 그 1~2초 사이에 무슨 일이 일어나는지 생각해본 적 있는가. 수천억 개의 파라미터를 가진 모델이 사용자 입력을 이해하고, 문맥을 파악하고, 자연스러운 답변을 생성해서 돌려보내는 과정이 그 짧은 시간 안에 전부 완료된다. 이게 가능한 이유는 Gemini 뒤에서 조용히 돌아가는 인프라 때문이다. GPU 기반 서버를 쌓아놓는 것만으로 … Read more
솔직히 말하면, 처음 LangGraph를 접했을 때 “이게 왜 필요하지?”라는 생각이 먼저 들었다. LangChain만으로도 충분하지 않나. 프롬프트 엔지니어링 잘하면 그만 아닌가. 그런데 실제로 멀티에이전트 시스템을 프로덕션에 올려본 사람이라면 알 것이다. 에이전트가 두 개만 넘어가도 상태 관리가 지옥이 된다는 걸. 2024년부터 2025년에 걸쳐 AI 개발 생태계에서 가장 뜨거운 키워드 중 하나가 바로 LangGraph였다. GPT-5 시대를 앞두고 단순한 … Read more
지금 이 글을 읽고 있는 당신, 아마 Chrome 브라우저로 열었을 가능성이 높다. 전 세계 인터넷 사용자 중 65% 이상이 Chrome을 쓰고 있으니까. 그런데 최근 들어 뭔가 이상한 낌새가 느껴지지 않는가? 주소창 옆에 생겨난 낯선 아이콘, 사이드바에서 슬쩍 등장하는 AI 어시스턴트, 탭을 넘나들며 요약해주는 기능들. 단순한 업데이트가 아니다. Google이 지금 Chrome을 완전히 다른 무언가로 바꾸고 있다. … Read more
회사에서 ChatGPT 쓰다가 한 번쯤 이런 생각 해본 적 없는가. “이 데이터, 외부 서버로 나가도 괜찮은 건가?” 실제로 2023년 삼성전자 반도체 부문에서 챗GPT에 소스코드를 입력한 사건 이후, 국내 대기업 상당수가 외부 AI 서비스 이용을 제한하기 시작했다. 그리고 2026년 지금, 상황은 더 심각해졌다. AI 기본법 시행을 앞두고 데이터 거버넌스에 대한 압박이 커지면서, 기업이든 개인 개발자든 “내 … Read more
작년까지만 해도 LLaMA 3 시리즈에 LM Studio 0.3을 조합해서 로컬 AI를 돌리는 게 최선이었다. 그런데 2025년 4월 메타가 LLaMA 4를 공개하고, LM Studio도 0.4 메이저 업데이트를 거치면서 상황이 완전히 달라졌다. 솔직히 말하면, LLaMA 4 Scout을 처음 H100 한 장에 올렸을 때의 충격이 아직도 생생하다. 이전 세대와는 차원이 다른 멀티모달 성능에 1000만 토큰 컨텍스트 윈도우라니. 그리고 … Read more
Azure AI 시스템을 처음 설계하려고 Portal 앞에 앉았을 때 솔직히 말하면 나도 처음엔 Azure Portal 앞에서 멍하니 앉아 있었다. 수백 개 서비스가 화면 가득 펼쳐져 있는데, 뭘 먼저 눌러야 할지 도통 감이 안 잡혔다. 주변에서는 AI Foundry가 어쩌고, Managed Identity가 저쩌고 하는데, 나는 OpenAI API Key 하나 .env 파일에 넣고 직접 호출하면 되지 왜 이렇게 … Read more
솔직히 고백하자면, 나도 처음에는 Azure에서 AI 시스템을 설계한다고 했을 때 막막했다. Portal에 로그인하면 수백 개의 서비스가 펼쳐지고, 어디서부터 손대야 할지 감이 안 왔다. OpenAI API를 직접 호출하면 되는 걸 왜 굳이 Azure를 끼고 복잡하게 만들어야 하지? 그때는 진심으로 그렇게 생각했다. 그런데 실제로 기업 환경에서 AI 서비스를 운영하면서 생각이 완전히 바뀌었다. API Key 하나 유출되면 수천만 … Read more
솔직히 말하면, 나도 처음에는 오픈클로가 뭔지 정확히 몰랐다. 트위터에서 “AI가 내 대신 이메일 정리하고, 일정 잡고, 코드까지 돌린다”는 글을 봤을 때 반신반의했다. 그런데 실제로 깔아보니까 진짜였다. 텔레그램으로 “내일 오전 10시 미팅 잡아줘”라고 보내면 캘린더에 알아서 등록되고, “어제 온 메일 중에 급한 거 정리해줘”라고 하면 요약본이 날아온다. 이건 챗봇이 아니라 진짜 비서다. 그런데 문제가 하나 있다. … Read more
AI 에이전트를 다루다 보면 결국 이런 질문에 도달한다. “챗봇이랑 에이전트가 정확히 뭐가 다른 거지?” 챗GPT에 질문을 던져도 답을 해주고, 오픈클로에 질문을 던져도 답을 해준다. 겉보기엔 비슷하다. 하지만 내부 구조를 들여다보면 완전히 다른 세계다. 내가 메시지를 보내면 알아서 판단하고, 도구를 선택하고, 실행하고, 결과를 돌려준다. 이 과정이 어떤 구조 위에서 돌아가는 건지, 오늘은 그 속을 제대로 열어보려 … Read more
요즘 오픈클로(OpenClaw)가 화제다. AI가 직접 내 컴퓨터에서 일을 해준다는 이야기에 솔깃해서, 나도 직접 설치해봤다. 결론부터 말하면, 생각보다 쉽다. 물론 “원클릭 설치” 수준은 아니지만, 터미널을 한 번이라도 열어본 적 있는 사람이라면 20분이면 첫 대화까지 가능하다. 처음에는 깃허브 스타가 19만 개를 넘긴 프로젝트라길래 대단히 복잡한 걸 예상했는데, 온보딩 위저드라는 대화형 설치 시스템이 대부분의 과정을 자동으로 처리해준다. 오늘은 … Read more