-
AI21发布世界首个Mamba的生产级模型Jamba 支持256K上下文长度
AI21发布了世界首个Mamba的生产级模型:Jamba。这个模型采用了开创性的SSM-Transformer架构，具有52B参数，其中12B在生成时处于活动状态。Jamba结合了Joint Attention和Mamba技术，支持256K上下文长度。单个A10080GB最多可容纳140K上下文。与Mixtral8x7B相比，长上下文的吞吐量提高了3倍。 模型地址：https://huggingf…- 2.5k
扫码打开当前页
-
￥優惠使用時效：无法使用使用時效：
之前
使用時效：预期有效优惠编号：×