ggaaooppeenngg

dynamo对于vLLM的给懂是一个patch文件，vLLM给了一个PR方便在线对比。

本文讨论了稀疏注意力的计算方法，其核心思想是通过选择矩阵的分块，将重要的矩阵挑选出来参与计算。这是因为注意力矩阵具有稀疏性，而如何选择这些重点矩阵是各类算法需要解决的主要问题。

Dynamo 发布以后，我大概速览了一些设计文档，并且提取了一些关键点，并对比一些其他方案的异同点。