sLLM과 vLLM 완벽 설치 가이드 – CPU/GPU 환경별 설치부터 FastAPI 배포까지

sLLM_vLLM 설치

대화형 AI 모델을 로컬에서 실행하고 싶지만 어떤 도구를 선택해야 할지 고민이신가요? sLLM과 vLLM은 각각 다른 장점을 가진 훌륭한 LLM 추론 도구입니다. 이 가이드에서는 두 도구의 차이점부터 다양한 설치 방법, 그리고 FastAPI를 통한 서비스 배포까지 모든 과정을 상세하게 다뤄보겠습니다. sLLM vs vLLM: 핵심 차이점 이해하기 sLLM (Small Language Model Manager)의 특징 sLLM은 작은 규모의 언어 모델들을 … Read more

Ollama와 vLLM으로 Gemma 3 27B 실행 완벽 설치 가이드

ollama_vllm_gemma3_27b

Google의 최신 오픈소스 언어 모델인 Gemma 3 27B는 단일 GPU에서 실행할 수 있는 모델 중 최고 성능을 자랑합니다. 이번 포스팅에서는 Ollama를 사용한 간편한 실행 방법과 고성능 추론을 위한 vLLM 설치 및 사용 방법을 자세히 알아보겠습니다. Gemma 3 27B란? Gemma 3 27B는 Google의 Gemini 2.0과 동일한 기술을 기반으로 개발된 270억 개 파라미터를 가진 오픈소스 언어 모델입니다. … Read more

Agentic AI와 하이퍼오토메이션 2.0 – 미래 자동화의 새로운 패러다임

agentai_하이퍼오토메이션

디지털 혁신이 가속화되면서, 우리는 단순한 작업 자동화를 넘어선 새로운 차원의 지능형 자동화 시대로 접어들고 있습니다. Agentic AI(에이전트 AI)와 하이퍼오토메이션 2.0은 이러한 변화의 핵심 동력으로, 기존의 자동화 개념을 완전히 재정의하고 있습니다. Agentic AI란 무엇인가? – 스스로 생각하고 행동하는 AI Agentic AI는 단순히 주어진 명령을 실행하는 기존의 AI와는 근본적으로 다릅니다. ‘에이전트(Agent)’라는 용어에서 알 수 있듯이, 이는 자율적으로 … Read more

실무를 바꾸는 TypeScript 핵심 문법 8가지, 왜 쓰는지가 중요하다

typescript - 타입스크립트 문법

TypeScript는 단순히 “자바스크립트에 타입을 붙이는 언어”로 소개되지만, 막상 배우기 시작하면 많은 문법에 당황하게 된다. 타입이라는 개념 자체가 코드에 ‘제약’을 주는 것처럼 느껴지기도 하지만, 실제로는 코드의 명확성, 안정성, 예측 가능성을 높이는 강력한 무기다. 이번 글에서는 TypeScript를 배우면서 반드시 이해하고 넘어가야 할 8개의 핵심 문법을 정리했다. 문법 그 자체보다도 왜 이 문법이 필요했고, 어떤 상황에서 반드시 써야 … Read more

Windows에서 Kubernetes로 Azure AKS에 Nginx + React 배포하기

kubernetes 배포

이번 포스팅은, Windows PC에서 Kubernetes를 활용하여 Nginx와 React 애플리케이션을 Azure AKS(Azure Kubernetes Service)에 배포하는 전체 과정을 단계별로 설명합니다. 1. 개발 환경 구성 1.1 Docker Desktop 설치 및 Kubernetes 활성화 Docker Desktop 설치 Docker Desktop for Windows 다운로드 설치 시 “Use WSL 2 instead of Hyper-V” 옵션 선택 설치 완료 후 재부팅 Kubernetes 활성화 Docker Desktop … Read more