LLMKube
awesome-selfhosted
生成 AI
プラグイン可能なランタイム（llama.cpp、vLLM、TGI、Ollama、vllm-swift）、マルチGPUシャーディング、NVIDIA CUDA + Apple Silicon Metal サポート、OpenAI 互換 API を備えたセルフホスト LLM 推論用の Kubernetes operator です。
AI翻訳 · 原文(英語)を見る
Kubernetes operator for self-hosted LLM inference with pluggable runtimes (llama.cpp, vLLM, TGI, Ollama, vllm-swift), multi-GPU sharding, NVIDIA CUDA + Apple Silicon Metal support, and OpenAI-compatible API.
ライセンス
- Apache-2.0 Apache, Version 2.0
プラットフォーム
GoDockerK8S
同じカテゴリの無料ソリューション
AnythingLLM
組み込みのRAG、AIエージェント、ノーコードエージェントビルダー、MCP互換性などを備えたオールインワンのデスクトップおよびDocker AIアプリケーシ...
awesome-selfhosted (CC-BY-SA 3.0) · 2026-10-12 収集 · 無料ソリューションの一覧は awesome-selfhosted（CC-BY-SA 3.0）・awesome-sysadmin（CC-BY-SA 4.0）のデータに基づき、各項目の著作権は当該プロジェクトに帰属します。