작년 이맘때쯤 지인 회사에서 이런 이야기를 들었다. AI 챗봇 하나 들이면서 고객센터 인원의 삼분의 일을 줄였다고, 이제 야근도 없고 인건비도 확 줄었다고 자랑처럼 말했다. 반년쯤 지나 그 회사 소식을 다시 들었는데, 이번엔 정반대였다. 고객센터 경력자를 다시 뽑는다는 채용 공고가 떴다는 것이다. 나는 이 이야기를 듣고 놀라지 않았다. RAG 시스템을 매일 다루는 입장에서, 이런 결말은 이미 예상했던 시나리오였기 때문이다.
최근 미국에서도 비슷한 흐름이 확산되고 있다는 보도가 쏟아지고 있다. 자동차 회사부터 은행, 빅테크까지, AI로 인력을 줄였던 기업들이 하나둘 다시 채용 공고를 올리고 있다. AI가 일자리를 대체한다는 서사가 워낙 강하게 퍼져 있던 터라 이 반전이 더 눈에 띈다. 오늘은 이 현상이 왜 벌어지는지, RAG와 LLM 파이프라인을 실제로 운영해본 개발자 입장에서 짚어보려 한다.
실제로 벌어지고 있는 일
포드는 자동화 시스템으로 해결하지 못한 품질 문제를 다루기 위해 숙련된 인간 엔지니어 수백 명을 재고용하고 있다고 알려졌다. 포드의 한 부사장은 인공지능이 훌륭한 도구이긴 하지만 결국 그것을 학습시킨 데이터만큼만 좋을 뿐이라고 말했는데, 이 한 문장이 지금 벌어지는 현상을 가장 정확하게 요약한다. 호주의 커먼웰스은행이나 미국의 IBM도 비슷하게 인적 자본에 다시 무게를 싣고 있다고 전해진다.
숫자로 보면 더 뚜렷하다. 한 설문 조사에서는 기업 리더의 상당수가 AI 도입을 이유로 감원을 단행했다고 답했는데, 그중 절반 이상이 그 결정이 잘못됐다고 인정했다고 한다. 절반이 넘는 비율로 스스로 오판이었다고 시인하는 건 흔한 일이 아니다. 스웨덴 핀테크 기업 클라르나 사례도 유명하다. AI 비서 하나가 상담원 700명 몫의 업무를 처리한다고 자랑하며 인력을 대거 줄였는데, 이후 다시 사람을 늘리는 방향으로 돌아섰다. 최근에는 철도 대기업이나 구글의 모회사 같은 대형 조직들도 성장 목표와 신기술 확보를 위해 인력을 다시 늘리고 있다는 소식이 이어지고 있다.
왜 이런 일이 반복될까
여기서부터는 순전히 내 의견이다. RAG 파이프라인을 짜면서 가장 많이 배운 교훈 하나는, 검색과 생성이 아무리 잘 맞물려도 모델은 결국 확률적으로 가장 그럴듯한 답을 내놓을 뿐이라는 점이다. 그 답이 실제로 맞는지는 별개의 문제다. 나는 PostgreSQL과 Qdrant를 함께 쓰다가 두 시스템 사이에 싱크가 틀어져서 이미 삭제된 문서가 계속 검색 결과에 나오는 걸 몇 시간 동안 못 찾은 적이 있다. 시스템은 아무 오류도 내지 않았다. 그냥 조용히 틀린 답을 계속 내놓았을 뿐이다. 이게 무서운 지점이다. AI는 자신이 틀렸다는 걸 스스로 알리지 않는다.
고객센터도 마찬가지다. 정형화된 질문에는 챗봇이 완벽하게 답한다. 그런데 고객이 화가 나 있거나, 상황이 애매하거나, 매뉴얼에 없는 예외적인 케이스가 들어오면 챗봇은 여전히 그럴듯한 답을 내놓는다. 다만 그 답이 상황에 맞는지는 다른 문제다. 사람이라면 여기서 판단을 멈추고 상급자에게 넘기거나 융통성을 발휘한다. AI는 그 경계를 스스로 감지하지 못하는 경우가 많다. 결국 누군가는 그 결과물을 검증해야 하는데, 애초에 그 업무를 하던 사람을 없애버렸으니 검증할 사람도 없어진 셈이다.
더 근본적인 문제는 조직들이 AI를 도입할 때 흔히 저지르는 실수에 있다고 본다. 인간을 대체하는 데만 예산을 쓰고, 정작 그 AI를 감독하고 교정할 인력에는 투자하지 않는 경우가 많다는 분석도 있다. 나는 이걸 실무에서 뼈저리게 느낀다. 모델 하나 배포하는 것과, 그 모델이 운영 환경에서 계속 정확하게 동작하는지 지켜보는 것은 완전히 다른 작업이다. 후자에 들어가는 인력과 시간이 훨씬 크다. 그런데 이 부분은 도입 초기의 화려한 발표 자료에는 잘 등장하지 않는다.
사람의 역할이 오히려 커지는 이유
흥미로운 건 AI가 대체하지 못하는 영역이 명확해지면서, 그 영역을 다루는 사람의 몸값이 오히려 올라가고 있다는 점이다. 현장 노하우, 고객의 감정을 읽는 응대, 리스크 판단처럼 데이터로 완전히 환원되지 않는 역량이 다시 주목받고 있다. AI 기업들조차 사람 간 소통을 이끄는 직책에 상당한 연봉을 걸고 채용에 나서는 걸 보면, 이 흐름이 일시적인 현상이 아니라는 걸 짐작할 수 있다.
나는 이 부분이 RAG 개발자의 일과도 맞닿아 있다고 생각한다. 내가 하는 일의 상당 부분은 사실 모델을 더 똑똑하게 만드는 게 아니라, 모델이 틀렸을 때 어떻게 걸러내고 사람에게 넘길지를 설계하는 일이다. 검색 결과의 신뢰도가 낮으면 답변 대신 재확인을 요청하게 만들고, 애매한 질문은 사람에게 에스컬레이션하는 구조를 짜는 게 실제 운영에서는 모델 성능 자체보다 더 중요한 경우가 많다. 이런 안전장치를 만드는 것 자체가 결국 사람의 판단력을 시스템 안에 녹여 넣는 작업이다.
그래서 기업은 어떻게 접근해야 할까
이 흐름을 보면서 드는 생각은, AI 도입을 인력 감축의 수단으로만 접근하면 반드시 되돌아온다는 것이다. AI는 반복적이고 정형화된 업무에서는 확실히 사람보다 빠르고 저렴하다. 하지만 예외 상황을 처리하고, 결과물을 검증하고, 애매한 경계에서 판단을 내리는 일은 여전히 사람의 몫이다. 이 두 영역을 명확히 구분하지 않고 그냥 인력부터 줄이면, 결국 AI가 만든 결과물을 누구도 검증하지 않는 위험한 상태에 빠지게 된다.
내가 프로젝트를 설계할 때 항상 강조하는 원칙이 하나 있다. AI 시스템은 사람을 완전히 대체하는 게 아니라 사람의 판단이 필요한 지점을 더 정확하게 걸러내는 도구로 설계해야 한다는 것이다. 이렇게 접근하면 AI가 처리할 수 있는 물량은 늘어나면서도, 정작 중요한 순간에는 사람이 개입할 수 있는 구조가 유지된다. 지금 미국 기업들이 겪고 있는 재채용 사태는 이 원칙을 무시했을 때 벌어지는 일을 그대로 보여주는 사례라고 생각한다.
결론
AI로 사람을 자르고 다시 사람을 뽑는 지금의 흐름은 단순한 해프닝이 아니라, AI 기술의 현재 한계를 정확하게 드러내는 신호다. 모델은 그럴듯한 답을 내놓는 데는 능하지만, 자신이 틀렸다는 걸 스스로 알아채지는 못한다. 이 간극을 메우는 건 결국 사람의 판단이고, 그 판단을 시스템 안에 어떻게 설계해 넣느냐가 AI 도입의 성패를 가른다. 기업들이 겪고 있는 재채용 러시는 AI가 실패했다는 증거라기보다, AI를 어떻게 써야 하는지에 대한 이해가 아직 충분히 성숙하지 않았다는 증거에 가깝다고 본다. 앞으로 AI 도입을 고민하는 조직이라면, 사람을 줄이는 방향이 아니라 사람과 AI의 역할을 어떻게 나눌지부터 고민하는 게 먼저일 것 같다.