腾讯提出无训练优化方法:120元成本实现传统7万元微调效果
腾讯AI实验室近期发布了一种名为"无训练组相对策略优化"(Training-Free GRPO)的新型模型优化技术。这一方法通腾讯过外部知识库更新替代传统参数微调,在大幅降低训练成本的同时,实现了与昂贵微调方案相当的性能提升。
该技术的核心创新在于将经验知识转提出化为token级别的先验信息,使大模型在参数完全冻结的状态下完成性能优化。腾讯研究团队在DeepSeek-V3.1-Terminus无训模型上进行的实验显示,这种方法在数学推理和网络搜索等任务中均取得了显著效果。
从技术实现角度看,传统大语言模型在处理需要外部工具调用的复练优杂任务时常常表现欠佳。而Training-Free GRPO通过保持模型主体参数不变,仅动态维护一个外部经验知识库的方式来提升化方能力。这种设计不仅大幅削减了计算资源消耗,还增强了模型的跨领域泛化能力。
实验数据具体体现了这一方法的有效性。在数学竞赛级测试法:AIME24和AIME25中,经过Training-Free GRPO优化的DeepSeek-V3.1-Terminus模型准确率分别12从80%和67.9%提升至82.7%和73.3%。更关键的是,这一提升仅使用了100个跨域训练样本,而传统强化学习方法通常需要0元数千个样本才能达到类似效果,后者的成本往往高达数万美元。
在网络搜索任务的测试中,该方法同样表现出色,模型的Pass@1指标从63.成本2%提升至67.8%。这一系列测试结果表明,Training-Free GRPO在保持低成本投入的前提下,能够在多种任务类型中实现实现稳定的性能改善。
从成本对比来看,官方数据显示使用Training-Free GRPO优化一个模型仅需约120元人民币,而传统的传统参数微调方案通常需要投入7万元左右的计算资源。这一成本差距主要源于该方法无需进行梯度回传和参数更新等计算密集型操作。
这项技术的发布为A7万I模型优化提供了新的思路方向。特别是对于资源受限的中小企业和研究机构而言,这种低成本高效率的优化方案降低了大模型应用的门槛。不过需要注元微意的是,该方法的适用范围和在更多场景下的表现还有待进一步验证,当前公布的测试数据主要集中在数学推理和信息检索等特定任务上。
论文调效地址:https://arxiv.org/abs/2510.08191
- ·标签: 钉钉 DingTalkA1 DingTalkA1Pro CleerH1
- ·戴尔考虑出售云业务Boomi 估值或达30亿美元
- ·日本AI独角兽LayerX狂揽1亿美元,誓要颠覆传统企业后台运营模式
- ·爱尔兰数据保护委员会对Facebook数据泄露事件发起调查
- ·标签: 大宇资讯 光聚晶电 半导体 游戏IP
- ·苹果拟收购计算机视觉初创公司 Prompt AI,进一步布局智能家居领域
- ·标签: AI短剧
- ·标签: 3152026 315
- ·如何使用TensorFlow构建机器学习模型
- ·标签: 尚界 Z7 小摩互娱 尚界汽车
- ·标签: 卓世科技 璇玑玉衡 行业大模型 具身智能
- ·消息称阿里新模型Qwen3下周发布
- ·我命运般的什么梗
- ·COVID-19大流行正推动面部识别技术应用
- ·蚂蚁万亿参数思考模型Ring-1发布即开源,刷新多项开源SOTA
- ·OpenAI CEO称赞 ChatGPT Pulse 为“最爱功能”,但不排除未来引入广告
- ·麻省理工学院推出可调节的生成 AI 工具,助力机器人虚拟训练
- ·AI 算力豪赌:OpenAI 签署万亿美元芯片大单,烧钱规模远超谷歌微软?
- ·无触发后门成功欺骗AI模型 为对抗性机器学习提供新的方向
- ·面试官:说说什么是Java内存模型?
- ·标签: B站 播放页暂停广告 李旎 陈睿
- ·云安全日报211014:IBM企业全面集成需求平台发现安全绕过漏洞,需要尽快升级
- ·标签: 中文在线 17K小说网 短剧 IP衍生品
- ·只需1秒,无人机就能平地翻跟头 | IEEE
- ·Razorpay携手OpenAI与印度国家支付公司,重塑支付服务新体验
- ·鍥剧伒濂栧緱涓籎udea Pearl璋堬細涓嶈兘鍙�潬鏁版嵁
- ·开源语音大模型 “Step-Audio 2 mini” 发布!听得清楚、说得自然
- ·标签: Quobly Alloy STMicroelectronics 硅基量子计算机
- ·阿里云创始人王坚:云计算的第三次浪潮有可能要几十年才能到高峰
- ·杨树蘑菇能吃吗
- ·月之暗面推出新型混合线性注意力架构 “Kimi Linear”
- ·AI招聘平台Jack & Jill完成2000万美元种子轮融资:用对话式AI重构求职流程
- ·标签: 比亚迪 天神之眼B 激光辅助驾驶 王朝网
- ·标签: 小鹏汽车 阶跃星辰 周舒畅 自动驾驶
- ·标签: 阿里巴巴 钉钉 陈航 无招
- ·谷歌强硬反击Roku封杀:把YouTube TV服务直接捆绑进YouTube客户端
