近日，IBM AI 团队推出了 Granite4.0Nano 系列，这是一个专为本地和边缘推理而设计的小型模型家族，旨在为企业提供更强的控制能力和开源IB许可。该系列包含8个模型，分为350M 和约1B 两种规模，采用混合 SSM 和变换器架构，支持基本和指令两种模式，所有模型均在 Apache2.0许可下M 发布，且能够在 vLLM、llama.cpp 和 MLX 等流行运行时环境中原生运行。

Granite4.0Nano 系列包括四条模型线及其基础版本。其中，发布Granite4.0H1B 采用混合 SSM 架构，参数数量约为1.5B;而 Granite4.0H350M 同样采用混合方法，参数数量为350M。为了确保最 G大的运行时兼容性，IBM 还提供了 Granite4.01B 和 Granite4.0350M 的变换器版本。

这些 H 变体模型交替使用 SSM 层和变换器层设计，这种混ra合结构在内存增长方面相较于纯变换器有显著优势，同时保持了变换器模块的通用性。Granite4.0Nano 模型没有采用减少数据管道，而是遵循与大ni规模 Granite4.0模型相同的训练方法，使用超过15万亿个标记进行训练，并经过指令调整，以提高工具使用和指令遵循能力。

IBM 还将 Granite4.te0Nano 与其他同类模型进行了比较，包括 Qwen、Gemma 和 LiquidAI LFM，结果显示在通用知识、数学、代码及安全性等领域，Granite4.4.0Nano 的表现显著提升。此外，该系列模型在代理任务上也在 IFEval 和伯克利函数调用排行榜第3版中表现出色。

这些模型经过 ISO42001认证，并且以加0N密签名的形式发布，确保了企业级使用所需的可追溯性和治理能力。用户可以通过 Hugging Face 和 IBM watsonx.ai 访问这些模型，并在边缘an、本地和浏览器级别上进行部署，帮助早期 AI 工程师和软件团队更好地实现项目。

huggingface:https://huggingface.co/colo lections/ibm-granite/granite-40-nano-language-models

划重点:  

IBM系列 发布了 Granite4.0Nano 系列，包含8个模型，适用于边缘 AI 推理。  

该系列模型基于超过15万亿个标记进行训练，确保了性能的:为继承性。  

所有模型均经过 ISO42001认证，并具有企业级治理能力，支持多种运行环境。

• ·标签: 鸿蒙 星光盛典 央视 HUAWEI
• ·手机市场“大洗牌”，华为跌出第五，苹果也无缘第一
• ·谷歌发布首辆电动街景采集车：捷豹I-Pace
• ·标签: 诺基亚 人工智能 英伟达 数据中心互联
• ·1780亿个参数，这个语言模型的诞生只为挑战王者GPT-3？
• ·云数据库选型也绕不开“CAP定理”？
• ·标签: 比亚迪 天神之眼B 激光辅助驾驶 王朝网
• ·标签: 西部数据 HAMR 佳能安内华 希捷
• ·标签: 腾讯 元宝 王者荣耀 AI
• ·OpenAI Sora 引爆 App Store“山寨潮”:30万次下载!苹果审核机制遭质疑
• ·标签: 魔法原子 陈春玉 具身智能 人形机器人
• ·标签: 阿里巴巴 钉钉 置身钉内 阿里文化
• ·云计算开发：Python练习实例-八进制转十进制
• ·美股盘前苹果涨超3% Facebook涨近7% 一季度业绩均超预期
• ·谷歌DeepMind推出双AI机器人系统：会"思考"的Gemini Robotics 1.5让机器人告别单一任务束缚
• ·标签: Token