Kapitsa
Kapitsa 源码拆解 06:KFlash 将候选 token 组织成验证树
从候选树、逻辑位置和分支隔离,到按本机成本选择验证规模,拆开投机解码的实现与数值边界。
Kapitsa
从候选树、逻辑位置和分支隔离,到按本机成本选择验证规模,拆开投机解码的实现与数值边界。
Kapitsa
从精确 token 前缀、混合模型状态到 SSD 的块与快照,解释旧对话如何继续而不必从头重算。
Kapitsa
沿 ready/done、两半 wavefront 和失败重跑,理解“同时工作”背后的依赖关系。
Kapitsa
先分清 token 行、隐藏维度和 FFN 中间通道,再看分工公式、W8A8 与 IOSurface。
Kapitsa
用明确的矩阵形状和字节算例,理解量化权重、Buffer 视图,以及统一内存为什么仍需要同步。
Kapitsa
固定 0.2.17 / 919b1b2,从请求、prefill、decode 到会话状态,建立阅读这套原生推理引擎的地图。