Ollama
Empiece a utilizar Llama 3.3, DeepSeek-R1, Phi-4, Gemma 3 y otros modelos de lenguaje grandes.
Operador de Kubernetes para inferencia de LLM autoalojada con runtimes conectables (llama.cpp, vLLM, TGI, Ollama, vllm-swift), sharding multi-GPU, compatibilidad con NVIDIA CUDA + Apple Silicon Metal y API compatible con OpenAI.
Kubernetes operator for self-hosted LLM inference with pluggable runtimes (llama.cpp, vLLM, TGI, Ollama, vllm-swift), multi-GPU sharding, NVIDIA CUDA + Apple Silicon Metal support, and OpenAI-compatible API.
awesome-selfhosted (CC-BY-SA 3.0) · recopilado el 2026-10-12 · La lista de soluciones gratuitas se basa en los datos de awesome-selfhosted (CC-BY-SA 3.0) y awesome-sysadmin (CC-BY-SA 4.0); cada entrada sigue siendo propiedad intelectual de su proyecto.