K-엑사원 폐쇄망 온프레미스 구축 경쟁력 분석, GPU 메모리와 라이선스부터 따져보세요

폐쇄망 프로젝트를 하다 보면 요구사항 회의 후반부에 꼭 나오는 질문이 있습니다. “국산 모델은 없나요? 엑사원 쓰면 안 되나요?” 인터넷이 막힌 환경에서 LLM을 돌려야 하는 고객에게 모델 선택은 단순한 성능 비교가 아닙니다. 외부 API를 쓸 수 없으니 모델을 서버에 직접 올려야 하고, 그러려면 GPU가 필요하고, 그 GPU는 예산과 납기와 보안 심의를 모두 통과해야 하거든요. 그래서 멋진 … Read more