公开知识图谱记录
Kinference
记录摘要
An open source inference control plane for Kubernetes and vLLM that sits in fron
来自项目知识图谱的有来源实体；具体工具属性仍需补齐。
已记录信息
- 基准测试: against plain Kubernetes load balancing
- 基准测试: 3 L40S GPUs per pool
- 基准测试: Qwen3.8-27B-FP8 model
- 基准测试: GuideLLM 0.8.1 load
- 集成: kinfctl CLI
- 集成: Gateway API v1.5.1 CRDs
- 集成: Kubernetes
- 集成: vLLM
资料覆盖
知识图谱当前记录了 10 个已知资料维度，另有 8 个维度尚未记录，关联 1 篇公开资料。这些数字只描述资料覆盖，不代表模型性能或适配性已经验证。
相关公开记录
- Baseten — 竞品
- Kubernetes — 替代
- NVIDIA Dynamo — 竞品
- vLLM — 替代
- ClusterIP Service — 竞品