Meta AI 近日推出了 MobileLLM-R1，这是一系列轻量级边缘推理模型，目前已在 Hugging Face 上发布。该系列模型参数范围从140M 到950M，专注于高效的​M数学、编码和科学推理，且在不足10亿的参数规模下实现了优秀的性能表现。

MobileLLM-R1的最大模型为 MobileLLM-R1-950M，采用了一系列架构优化设计:包括22层et Transformer 结构、24个注意力头和6个分组 KV 头。模型的嵌入维度为1536，隐藏层维度为6144。此外，模型还采用了分组查询注意力（GQA）来减少计算和内存需a 求，块级权重共享技术降低了参数数量而不显著增加延迟，SwiGLU 激活函数提升了小模型的表示能力。模型支持4K 的上下文长度和32K 的后训练模型。

在训练效率方面，MobileAILLM-R1的表现同样引人注目。该模型总共在约4.2万亿个 token 上进行训练，相较于 Qwen3的0.6B 模型训练的36万亿 token，MobileLLM-R1仅使用了约11.7 发% 的数据便达到了或超越了 Qwen3的准确率。同时，模型在数学、编码和推理数据集上进行了监督微调，从而降低了训练成本和资源需求。

在各项基准测试中，MobileLLM-R1-布 950M 的表现优异:在 MATH500数据集上，其准确率比 OLMo-1.24B 高出约5倍，且比 SmolLM2-1.7B 高出约2倍。在 GSM8K、AIME 和 LiveCodeMoBench 等推理和编码任务上，MobileLLM-R1甚至与 Qwen3-0.6B 相匹配或超越，尽管所使用的 token 数量远少于后者。

不过，MobileLLM-R1的聚焦也带来了bi局限性。虽然在数学、编码和结构化推理方面表现强劲，但在一般对话、常识推理和创造性任务上，MobileLLM-R1的表现较大型模型有所不足。此外，模型在生产环境中的使用受到 FleAIR NC（非商业）许可证的限制，较长的上下文(32K)也提高了推理时的 KV 缓存和内存需求。

总的来看，Meta 的 MobileLLM-R1展现了一个趋势，即朝着更小、更专业化的模型LL方向发展，能够在不需要大规模训练预算的情况下实现竞争力的推理能力。该模型在数学、编码和科学应用场景中表现尤为突出，为边缘设备上的大规模语言模型部署定义了新的标准。

项目：M-https://huggingface.co/facebook/MobileLLM-R1-950M

划重点:  

🧩 ** 新模型发布 **:Meta AI 推出 MobR1ileLLM-R1系列轻量级边缘推理模型，参数范围从140M 到950M。  

** 训练效率 **:MobileLLM-R1仅用约11.7% 的数据训练，表现出色，训：轻练成本和资源需求显著降低。  

** 性能优势 **:在多项基准测试中，MobileLLM-R1-950M 表现超越多款大型开源模型，尤其在数学和编码任务上。

• ·黄仁勋驳斥AI泡沫论，英伟达新一代芯片预计将创5000亿美元营收
• ·可以用冰冻梭子蟹煮粥吗
• ·标签: 高途集团 陈向东 AI教育 素质素养
• ·标签: 中国联通 5G工厂 联通云 智算中心
• ·标签: GB18384-2025 GB38031-2025 电动汽车安全 动力电池安全
• ·理想汽车发布MindGPT 3.1智能体模型，每秒200字符输出速度提升5倍
• ·微软史上第二大规模收购出炉：或于周一收购语音识别公司Nuance
• ·人工智能是把双刃剑，欧盟出台法规趋利避害
• ·京东成立数字经济公司，经营范围含云计算装备技术服务等
• ·标签: DeepSeek R1模型 AI搜索引擎 智能体
• ·内存涨价潮下，阿里云李飞飞详解PolarDB“AI就绪”如何实现“降本增效”
• ·为什么投资人不担心阿里云有泡沫？
• ·标签: 雷军 小米汽车 安全理念 黑公关
• ·云计算下半场角力 “云智一体”关键在“智”
• ·爱奇艺上线“AI艺人库”惹争议：是降本增效的利器，还是行业“自掘坟墓”？
• ·CES 2021：Intel、AMD、NVIDIA“美利坚三国大战”