AI 실무 가이드와 엔지니어링 노트
작년부터 고객사 PoC에 들어갈 때마다 같은 장면이 반복된다. “저희도 RAG 한번 깔아봤는데, 답을 너무 자주 지어내요.” 이 말을 듣는 빈도가 한 달이 멀다 하고 늘어났다. 얼마 전에는 한 제조 대기업 IT 본부장이 더 솔직한 표현을 던졌다. “이거 자료에서 직접 가져온 답인지, GPT가 그럴듯하게 만든 답인지 내가 판별할 수 없으면 임원 보고에 못 올려요.” 그분 입장이 … Read more
작년 한 해 동안 가장 많이 받은 질문 중 하나가 “팔란티어가 도대체 뭐 하는 회사예요”였다. 흥미롭게도 질문하는 사람들의 직군이 완전히 갈렸다. 주식 투자를 하는 분들은 이미 답을 알고 있었다. 시가총액이 천문학적으로 뛰어오른 그 미국 회사. 반면 AI 엔지니어 쪽에서 일하는 분들은 의외로 잘 몰랐다. 알아도 “정부 데이터 분석하는 회사 아니에요?” 정도에서 멈췄다. 이 격차가 흥미로웠다. … Read more
며칠 전 한 고객사에서 토큰 청구서를 받아 든 부서장이 “이거 진짜 맞느냐”라고 두 번 물어왔다. 원래 챗봇 PoC 한 달 비용으로 300만 원 정도 잡아두었던 항목이, 정식 운영에 들어간 다음 달 청구서에서 1,800만 원으로 찍혀 나왔다고 한다. 무엇이 잘못된 게 아니었다. 챗봇이 단순 질의응답에서 다단계 추론과 도구 호출이 들어간 ‘에이전트’로 진화하면서 토큰 사용량이 6배 가까이 … Read more
요즘 국내 자동화 시장에서 ‘RPA가 끝났다’는 말과 ‘에이전틱 AI로 넘어간다’는 말이 동시에 떠다닌다. 서울 서초구 엘타워에서 4월 17일 열린 ‘AX & 하이퍼오토메이션 코리아 2026-Spring’ 발표 자료를 살펴보다가 이 두 흐름을 정면으로 다루는 한 장면이 눈에 들어왔다. 그리드원 김계관 대표가 ‘GO;DO Agentic Automation Platform’이라는 이름으로 풀어낸 자율형 엔터프라이즈 청사진이다. 단순한 RPA 회사의 신제품 발표라고 보기에는 구조가 … Read more
인텔 신임 CEO 립부 탄이 1분기 실적 발표 자리에서 슬쩍 흘린 숫자 하나가 며칠째 머릿속에서 맴돌고 있다. “AI 학습은 CPU 1개와 GPU 7~8개를 조합했다면, AI 추론은 CPU 1개와 GPU 3~4개를 결합한다.” 그러면서 그는 “에이전틱(자율) AI와 멀티 에이전트 시대에는 반대 방향으로 바뀔 수도 있다”고 덧붙였다. 별것 아닌 비율 이야기처럼 들리지만, 인프라 쪽 일을 해본 사람이라면 이 … Read more
한 가지 숫자부터 시작하겠다. 82%의 임원이 “우리 회사의 정책이 비인가 AI 에이전트 활동으로부터 조직을 보호하고 있다”고 자신한다. 그런데 같은 조사에서 실제로 모든 AI 에이전트에 대해 보안 승인을 완료한 기업은 14.4%에 불과했다. 자신감과 현실 사이에 68포인트의 간극이 있다. 이 간극이 바로 2026년 기업이 직면한 AI 에이전트 거버넌스 문제의 본질이다. 나는 오픈클로를 개인적으로 쓰면서, 이 도구가 기업 … Read more
지난주 한 저축은행 프로젝트 킥오프에 불려 갔다가, 회의실에서 꽤 낯선 장면을 봤다. “AI 개발자 두 명, RPA 운영 인력 세 명, AI 에이전트 팀장 한 명을 2월 안에 뽑아야 합니다.” 인사 담당자가 채용 요건을 읊는데, 나는 RPA라는 단어가 그렇게 또렷하게 들린 게 오랜만이었다. 한때 “곧 사라질 기술”이라고 썼던 분석 리포트가 불과 2년 전 일인데, 현장은 … Read more
오픈클로를 한동안 써보면 이런 순간이 온다. “이메일 정리해줘”라고 했더니 잘 해주고, “일정 확인해줘”라고 했더니 잘 알려준다. 그런데 어느 날 “GitHub에서 버그 이슈 확인해줘”라고 했더니 멈칫한다. “Notion에 오늘 회의록 정리해줘”라고 했더니 할 수 없다고 한다. 기본 스킬만으로는 닿지 않는 영역이 생기기 시작하는 거다. 여기서 두 가지 길이 갈린다. 하나는 커스텀 스킬을 직접 만들어서 API를 연동하는 방법이고, … Read more
데모 영상에서 완벽하게 작동하는 AI 에이전트와, 실제 업무 현장에서 굴러가는 AI 에이전트는 완전히 다른 물건이다. 지난달 LangGraph 기반 멀티에이전트 시스템을 한 고객사에 납품하면서 다시 한 번 절감한 점이다. POC 단계에서는 시연이 매끄러운데, 실제 데이터와 실제 업무 플로우에 붙이는 순간 문제가 줄줄이 터져 나온다. 문서 포맷이 제각각이고, 결재선이 뒤엉켜 있고, 예외 케이스가 전체의 20%를 넘어간다. 이걸 … Read more
“약점을 찾아 침투하라.” 단 한 줄의 명령어가 27년간 검증된 운영체제 보안을 무너뜨렸다. 지난주 앤트로픽이 공개한 AI 모델 미토스(Claude Mythos Preview)가 오픈BSD에서 27년 동안 발견되지 않았던 버그를 단 몇 분 만에 찾아냈다. 이 소식이 전해지자 크라우드스트라이크와 팔로알토 네트웍스 주가가 7%씩 급락했다. 지스케일러도 8.6% 하락했다. 수십 억 달러 규모의 보안 기업들이 하루 만에 흔들렸다. 나는 이 뉴스를 … Read more