公开知识图谱记录
SGLang
记录摘要
A language for structured generation on LLMs.
来自项目知识图谱的有来源实体；具体工具属性仍需补齐。
已记录信息
- 能力: 支持 LLM、VLM 和扩散模型
- 能力: 支持在线服务
- 集成: 作为ThinkingCap-Qwen3.8-27B的兼容服务栈
- 集成: 提供 Step 5 Preview 专用 Docker 镜像及 OpenAI 兼容 API
- 集成: 提供SGLang Omni适配器，支持分页注意力、动态批处理及兼容OpenAI的语音API
- 集成: Google Cloud
- 许可: Apache 2.0
- 性能: 单张H100上各并发水平保持吞吐优势
资料覆盖
知识图谱当前记录了 9 个已知资料维度，另有 9 个维度尚未记录，关联 32 篇公开资料。这些数字只描述资料覆盖，不代表模型性能或适配性已经验证。
相关公开记录
- vLLM — 相关
- apex-flash-1 — 采用
- Audio8-TTS-Realistic — 集成
- Beam — 集成
- Clef — 采用