炼丹速度×7!你的Mac电脑也能在PyTorch训练中用GPU加速了
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。
一直以来,Pytorch在Mac上仅支持使用CPU进行训练。
就在刚刚炼丹,Pytorch官方宣布,其最新版v1.12可以支持GPU加速了。
只要是搭载了M1系列芯片的Mac都行。
这也就意味着在Mac本机用Pytorch“炼丹速度”会更方便了!
训练速度可提升约7倍
此功能由Pytorch与Apple的Metal工程团队合作推出。
它使用Apple的Metal Performance×7 Shaders(MPS) 作为PyTorch的后端来启用GPU加速训练。
为了优化计算性能,MPS还针对Metal GPU系列的独特特性对每!你个内核进行了微调。
Metal是一个类似OpenGL的框架,只不过OpenGL适用于各平台的移动端GPU渲染和计算,Metal专用于iOS/Mac的MOS平台,不过也兼顾了性能和易用性。
MPS就是一套基于Metal框架的库,直接调用即可使用GPU的高性能进行图形处理、构建卷积神经网络等工作。
苹果ac官方在搭载了M1 Ultra、20核CPU、64核GPU、128GB RAM和2TB SSD的Mac Studio上进行了测试。
(这阵容差不多能算是豪华配电脑置了)。
他们分别训练了batch size为128的ResNet50、batch size为64的HuggingFace BERT,以及batch si也能ze=64的VGG16。
从下图中我们可以发现,相比使用CPU加速,使用GPU可将模型训练速度提高约7倍,评估(evaluation)速度则最高能提约20在P倍。
看到这儿,有网友开始好奇它与搭载了Nvidia GPU的laptop相比性能如何。
有人表示,虽说目前M1的原始计算性能比不上英伟达的产品,但功耗方面还不yT错。未来苹果很有可能慢慢追上性能。
总的来说,Mac Studio现在看起来实在太香了。
他进一步解释道:
“毕竟它是你花4800美元就能买到的最便宜、包含128orGB GPU内存的机器。现在有了基于GPU加速的PyTorch支持,完全可以用来训练大模型、配置大的batch size。
对于我所做的那种DL工作,数据加载ch比实际的原始计算能力更容易成为瓶颈。”
你心动了吗?
现在就试试?
只需保证你的macOS操作系统在12.3版本及以上,且安装了arm64原生Python,训练然后去官网下载最新的Pytorch预览版就可以了。
地址:
https://pytorch.org/blog/introducing-accelera中用ted-pytorch-training-on-mac/
- ·美光推出两款数据中心SSD——美光6500 ION NVMe SSD及美光XTR NVMe SSD
- ·标签: MiniMax 声网 TTS技术 实时AI
- ·螃蟹可以放水里养着吗
- ·寰�蒋绗�洓璐㈠�钀ユ敹462浜跨編鍏� 鍏朵腑鏅鸿兘浜戦儴闂ㄨ惀鏀�174浜跨編鍏�
- ·标签: 阿里巴巴 吴泳铭 通义实验室 林俊旸
- ·标签: Anthropic ClaudeOpus4.8 大模型 人工智能
- ·标签: 三星电子 SK海力士 HBM3E 存储涨价
- ·Anthropic推出Claude Code网页版:AI编码助手从命令行扩展到浏览器
- ·2021年值得关注的8种边缘计算趋势
- ·标签: 爱芯元智
- ·对抗SpaceX!亚马逊收购Facebook卫星互联网团队
- ·云计算核心技术Docker教程:Docker Hub生成新的恢复代码
- ·标签: 百度智能云 红手指 Operator OpenClaw 龙虾应用
- ·标签: 华工科技 激光行业 光互联 新能源汽车PTC
- ·出版行业面临 “谷歌零点击” 危机,寻求新出路
- ·Epic和苹果官司将于5月开庭 双方各有45小时陈述自己观点
- ·云计算开发:Python内置函数-__import__()函数详解
- ·阿里云百炼平台上架智谱、Minimax、Kimi等顶尖模型,千问云官网售卖
- ·云安全日报201231:华为视讯业务管理系统发现特权升级漏洞,需要尽快升级
- ·AI视频革命!Grok Imagine v0.9一键变身“电影导演”,上传图片秒出带唱带跳大片
- ·云计算开发:Python3-List clear()方法详解
- ·标签: 安德科铭 ALD前驱体 半导体材料 中金公司
- ·标签: CNN 特德·特纳 特朗普 马克·汤普森
- ·MIT给激光雕刻机安上AI,自动辨别材料确定雕刻力度,准确率达98%
- ·AI配音革命来了!腾讯黑科技让机器秒变金牌说书人,一句话生成好莱坞级音效
- ·苹果 iOS 27 开发进展:AI 功能将迎来重大升级
- ·Nvidia 推出新型小型开放模型 Nemotron-Nano-9B-v2,支持智能推理开关
- ·标签: 抖音电商 盗播治理 真人盗播 内容作弊
- ·谷歌云Marketplace下调分成费比例 将会从20%降到3%
- ·企业能否负担得起大数据解决方案的成本?
- ·云安全日报210602:红帽核心应用程序组件发现内存损坏漏洞,需要尽快升级
- ·标签: 西祠胡同 西祠.com 福州飞扬 西祠大模型
- ·标签: 千问App 通义千问 阿里巴巴 AI助手
- ·腾讯元宝接入腾讯视频 点击可直接跳转观看
- ·标签: 腾讯追逐卡蕾多 网易诡影藏锋 三七斗破苍穹觉醒 莉莉丝小冰冰斗蛐蛐
- ·云安全日报220621:Ubuntu操作系统发现英特尔微码漏洞,需要尽快升级
