FlashMLA

DeepSeek 发布开源项目 FlashMLA

2 月 24 日，DeepSeek 开源周第一个项目 FlashMLA 正式发布。据官方介绍，FlashMLA 的灵感来自 FlashAttention 2&3 和 cutlass 项目。具体来说，FlashMLA 是一个针对 Hopper GPU 优化的高效 MLA（Multi-Head Latent Attention）解码内核，支持变长序列处理，现在已经投入生产使用。 FlashM…
资讯
- 2k
1 个月前

搜索