Open Questions
Open Questions
问题解决后,将问题笔记的
status改为solved,并补充结论及来源。
当前问题
- vLLM 和 SGLang 的调度器区别是什么
- How PD Disaggregation Transfers KV
- Why Decode Is Memory Bound
- Ray 与 Kubernetes 的调度边界是什么
记录规范
每个问题都要包含:当前假设、可证伪预测、最小实验/来源、观察结果和结论边界。问题解决后不要只把标题删掉,而是保留一篇可复用的答案笔记,并从本页移到“已解决”。
优先级判断
1 | 阻塞项目且能最小实验验证 |
每周检查
- 哪个问题最阻塞当前项目?
- 哪个问题可以通过最小实验解决?
- 哪个问题只是术语不清,需要先拆分?
问题卡片的最低信息量
一个标题不构成开放问题。新问题至少要指向一个会改变决策的未知量,并给出当前假设、可观察预测和停止条件:
1 | 未知量 |
例如“PD 分离之后 KV 怎么传输”不是泛泛调查,而是要比较传输 payload、重新 prefill 的计算、重叠比例和失败 fallback;“Ray 与 Kubernetes 的调度边界”则要分别杀 actor、驱逐 Pod,观察哪一层恢复什么状态。问题解决后保留测量条件和结论边界,避免把一次环境结果写成永恒原则。
当前优先级
优先处理能改变 Project - hx_llm 的问题:先建立 decode memory-bound 的负载证据,再判断 KV 传输是否值得引入 PD 分离,最后才比较引擎的实现差异。只有术语未定义而没有新机制的问题,应该直接修已有概念笔记,不单独扩张问题列表。
本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 Lux's Blog!