-
HySparse2：整体架构、KV 生命周期与 PD 分离
HySparse2：整体架构、KV 生命周期、Prefill/Decode 与 PD 分离完整解析 整理日期：2026-10-06。本文新建，不覆盖已有文档。配套：HySparse 完整整理。 完整性说明：已从本任务原始记录找回今天的三轮技术问答。正文按主题详细重组，末尾附录按时间保留三轮完整提问与完整回答，包括第一轮架构图、PD 时序图、数学推导、实验取舍和后两轮全部追问。原文只转换 ... -
HySparse：架构原理、推理流水线与有效性依据
HySparse：架构原理、推理流水线与有效性依据 整理日期：2026-10-06。范围：今天关于 HySparse、HySparse2 的全部三轮问答中与第一代相关的内容，并补充必要的公式、依赖关系和实验上下文。本文是新建文档，不修改已有 YOCO、DeepSeek 文档。两代名称分别为 HySparse 和 HySparse2，聊天中的 hyspase、hyspase2 均按对应名称... -
万字长文解析DeekSeekV4.1flash
万字长文解析DeekSeekV4.1flash 从整体架构图出发，完整串联多模态输入、Causal Encoder–Decoder、CSA2、MoE、Single-Pass mHC、Engram、DSpark、Prefill/Decode、KV Cache 生命周期、Prefix Caching、Bounded Replay、PD 分离和 PD 流水线。 本文是新建的模型架构文档，不覆盖... -
DeepSeek-V4_CSA-HCA与V4.1-CSA2详解
DeepSeek-V4 CSA/HCA 与 DeepSeek-V4.1 CSA2：从模型原理到推理基础设施 本文基于 DeepSeek-V4 与 DeepSeek-V4.1-Flash 官方技术报告和官方参考推理代码整理。重点解释 CSA2，包括 Compressor、Full/Reindex/Reuse、Hierarchical Sparse Indexer、CED Prefill/D... -
YOCO_论文与推理数据流详解
YOCO：You Only Cache Once——论文、架构与推理数据流详解 论文：You Only Cache Once: Decoder-Decoder Architectures for Language Models arXiv：2405.05254（v2） 作者：Yutao Sun、Li Dong 等，Microsoft Research / Tsinghua Univers... -
cp_optimization
FlashKDA Context Parallelism (CP) 优化 1. 概述 问题 FlashKDA 是一个带循环状态的注意力 kernel。对于长序列（如 64K tokens），单次前向的 kernel2 中状态递推是串行的，GPU SM 利用率低。 为什么需要 CP？—— FlashKDA vs fla_chunk_kda 基线对比 FlashKDA 的前向计算包含一个... -
k1_bwd_prepare_deep_dive
K1_bwd “prepare” kernel 逐行精讲（小白可推导版） 对应源码：csrc/smxx/bwd_kernel1.cuh 的 _flash_kda_bwd_prepare 目标读者：没接触过自动微分 / CUDA kernel 的人。读完应能自己推出 L2 归一化反向、数值稳定的 、以及门控的逆向 cumsum，并理解代码为何这样写。 约定：d<量> 表示 lo... -
k2_bwd_recurrence_deep_dive
K2_bwd 反向递推 kernel 逐行精讲（小白可推导版） 对应源码：csrc/smxx/bwd_kernel2.cuh 的 _flash_kda_bwd_recurrence 目标读者：没接触过自动微分 / CUDA kernel 的人。读完应能自己把每一条梯度公式推一遍，并理解代码为什么这么写。 约定：d<量> 表示 loss 对该量的梯度。代码里的 exp(x) 实... -
multi_card_cp
FlashKDA 多卡 Context Parallelism (CP) 数学原理详解 本文面向"小白"读者，从最基础的概念讲起，一步步推导多卡 CP 的 forward 和 backward 数学原理，重点讲清线性分解这个核心。 每个公式都配文字解释，最后用可手算的数值例子把整条链走一遍。 阅读顺序建议：§1 直觉 → §2 记号 → §3 forward → §4 backward ... -
bwd-ncu-and-optimization-playbook
反向 Kernel A/B 优化通用方法论 —— ncu 指标解析 + 共同优化手段总结 日期：2026-07-22 GPU：H20-3e（sm_90a，Hopper）。 本文是 Kernel A（串行 dstate 反向 scan） 和 Kernel B（并行 per-token 梯度，split 成 4 个小 kernel） 两条优化战役的横向提炼：把两边反复用到的同一批 ncu 指标...
