AI21 发布开放源代码迷你语言模型Jamba Reasoning3B
AI21Labs 近日宣布推出其最新的开源小型语言模型 ——Jamba Reasoning3B。这款被称为 “迷你语言模型” 的系统专为在设备上进行人工智能计算而设计。Jamba RAIeasoning3B 是该公司在特拉维夫开发的 Jamba 系列模型的最新成员,并采用 Apache2.0许可证发布。
与大多数市场上流行的大型语言模型(LLM)不同,Jamba Re21asoning3B 建立在 AI21自有的混合状态空间模型(SSM)- 变换器架构之上。状态空间模型是一种用于序列建模的深度学习算法,相比传统变换器在某些任务上更加高效。这类模 发型通过当前状态预测下一个状态。Mamba 是一种基于 SSM 的神经网络架构,构成了 Jamba 架构的一部分。
这款迷你语言模型的上下文窗口长度达到了256,000个标记,最多可以布开处理1,000,000个标记,具备与 Anthropic Claude、Google Gemini 和 Meta Llama 等大型语言模型相似的能力,但却可以在 iPhone、Andro放源id 设备、Mac 和 PC 等小型设备上运行。
Futurum Group 的分析师 Brad Shimmin 表示,他一直是状态空间模型的支持者,认为这一理念在行业内已有相当长的历史,但直到现代码在才有切实可行的实现方式。他指出,随着技术的演进,状态空间模型的使用变得更加可行,因为其扩展性强且速度快。
SSM 类型模型使用绳索缩放技术来扩展模型的注意机制,从而有效优先处理迷你任务,同时所需的计算能力比大型语言模型少。虽然 AI21是一家相对较小的生成 AI 公司,但由于其获得了 Google 和 AI 芯片巨头 Nvidia 的支持,并自2017年成立以来融资超过6亿美语言元,因此它可以通过建立生态系统来从开放源代码模型 Jamba Reasoning3B 中获利。
在发布会上,AI21展示了 Jamba 模型在广泛使用的基准测试系统如 IFBench、M模型MLU-Pro 和 Humanity's Last Exam 上的表现,证明其超越了包括阿里巴巴的 Qwen3.4B、谷歌的 Gemma3.4B、Meta 的 Llama3.23B、IBMJa 的 Granite4.0Micro 和微软的 Phi-4Mini 等多个大型开源 LLM。
Shimmin 认为,这款迷你语言模型在企业市场中有广阔的前景,因其支持检索增强生成技术,企业能够mb根据自身需求进行定制,同时确保数据的安全性。他提到,一个潜在的应用领域是客户服务中心,通过其推理能力来处理客户投诉,判断问题是否需要升级到人工或其他模型。
划重点:
AI21Laa bs 发布了 Jamba Reasoning3B,一个开放源代码的迷你语言模型,专为边缘 AI 应用设计。
Jamba Reasoning3B 采用了混合的状态空间模Re型架构,能够高效处理大量数据并在小型设备上运行。
该模型在企业市场具有潜力,能够根据企业需求进行定制,同时确保数据安全。
- ·开山鼻祖遭“贱卖” DPU还是好赛道吗?
- ·标签: AI 车险 Insurify Z世代
- ·标签: 新世纪医疗
- ·标签: TikTok 字节跳动 甲骨文 美国业务
- ·标签: 高盛 2026年一季度财报 投行手续费 并购顾问
- ·微信公众号上线智能回复功能:数字分身7*24小时陪聊
- ·云计算核心技术Docker教程:将配置文件与Compose一起使用
- ·只有冬夏再无春秋什么梗
- ·IDC TechScape中国数据安全发展路线图首发:涵盖三大类别 18项技术
- ·亚马逊云计算掌舵者Andy Jassy接任公司CEO
- ·苹果和Epic诉讼大战下月开审:库克将出庭作证
- ·AI实战,用Python玩个自动驾驶!
- ·标签: 小鹏汽车 陈永海 王凤英 高德地图
- ·标签: 夜经济 QuestMobile 五粮液 抖音
- ·标签: Meta 裁员 人工智能 AI战略
- ·标签: 白酒 酒企
- ·值得考虑的开源云平台和工具
- ·标签: OpenAI Stoke Space 奥尔特曼 马斯克
- ·Opera 发布 2025 年第二季度财报:营收同比增长 30% AI 生态推动新增长周期
- ·云计算核心技术Docker教程:Docker Hub创建私人仓库
- ·一季度AI应用月活创新高,豆包、千问、DeepSeek稳居第一梯队
- ·标签: iOS 27 苹果 Siri AI
- ·标签: 铠侠 NAND闪存 QLC SSD BiCS10
- ·利用对比分析有效地说明数据结果和结论
- ·AI招聘独角兽Juicebox获3600万美元融资:4人团队打造千万ARR神话,红杉领投A轮
- ·首款全疾病覆盖的颅脑 CT 辅助报告生成大模型问世!
