蚂蚁百灵开源Ling-3.0-tiny,支持多平台本地部署

蚂蚁百灵于8月11日在Hugging Face平台开源Ling-3.0-tiny模型,定位轻量级混合推理MoE架构,总参数量7.9B,每Token仅激活1.3B参数,主打低成本本地部署。 该模型在注意力层采用高效混合线性架构,将KDA与MLA按3:1比例交替堆叠;前馈网络使用包含128个路由专家的稀疏MoE,在上下文…

返回 AI资讯