公开知识图谱记录
Zyphra Hierarchical Attention (ZHA)
记录摘要
Sparse attention method using a tree-structured indexer to search for relevant k
来自项目知识图谱的有来源实体;具体工具属性仍需补齐。
已记录信息
- 基准测试: LongBench v2 (deep tree vs dense: 63.4% vs 58.0%)
- 基准测试: RULER-13 (deep tree vs dense: 93.3% vs 96.0%)
- 基准测试: LongBench v2(thinking)63.4%(deep tree)
- 基准测试: RULER-13(256K)deep tree 93.3%,wide tree 96.2%
- 基准测试: 在 Nemotron-3.5-Lightning-30B-A3B 上 deep-tree RULER-13 比 dense 低 25.3 分
- 基准测试: 28 种树几何下,读取 10% 至 30% 键时 RULER 准确率保持稳定
- 基准测试: LongBench v2
- 基准测试: RULER-13
资料覆盖
知识图谱当前记录了 10 个已知资料维度,另有 9 个维度尚未记录,关联 1 篇公开资料。这些数字只描述资料覆盖,不代表模型性能或适配性已经验证。
相关公开记录
- Zyphra — 发布
- MiniMax Sparse Attention (MSA) — 竞品
- Qwen3.6-35B-A3B — 用于
- MiniMax Sparse Attention (MSA) — 竞品
- LongBench v2 — 评测于