본문으로 건너뛰기

트랙

로컬 AI 플랫폼

8GB GPU PC와 로컬 쿠버네티스에서 Ollama, LiteLLM, Open WebUI로 사내형 AI 플랫폼을 꾸려 본다.