原标题:炼丹速度×7!你的Mac电脑也能在PyTorch训练中用GPU加速了
一直以来 , Pytorch在Mac上仅支持使用CPU进行训练 。
就在刚刚 , Pytorch官方宣布 , 其最新版v1.12可以支持GPU加速了 。
只要是搭载了M1系列芯片的Mac都行 。

文章图片
这也就意味着在Mac本机用Pytorch“炼丹”会更方便了!
训练速度可提升约7倍
此功能由Pytorch与Apple的Metal工程团队合作推出 。
它使用Apple的MetalPerformanceShaders(MPS)作为PyTorch的后端来启用GPU加速训练 。
为了优化计算性能 , MPS还针对MetalGPU系列的独特特性对每个内核进行了微调 。
Metal是一个类似OpenGL的框架 , 只不过OpenGL适用于各平台的移动端GPU渲染和计算 , Metal专用于iOS/MacOS平台 , 不过也兼顾了性能和易用性 。
MPS就是一套基于Metal框架的库 , 直接调用即可使用GPU的高性能进行图形处理、构建卷积神经网络等工作 。

文章图片
【原标题:炼丹速度×7!你的Mac电脑也能在PyTorch训练中用GPU加速了一直以来|你的Mac电脑也能在PyTorch训练中用GPU加速了】苹果官方在搭载了M1Ultra、20核CPU、64核GPU、128GBRAM和2TBSSD的MacStudio上进行了测试 。
(这阵容差不多能算是豪华配置了) 。
他们分别训练了batchsize为128的ResNet50、batchsize为64的HuggingFaceBERT , 以及batchsize=64的VGG16 。
从下图中我们可以发现 , 相比使用CPU加速 , 使用GPU可将模型训练速度提高约7倍 , 评估(evaluation)速度则最高能提约20倍 。

文章图片
看到这儿 , 有网友开始好奇它与搭载了NvidiaGPU的laptop相比性能如何 。

文章图片
有人表示 , 虽说目前M1的原始计算性能比不上英伟达的产品 , 但功耗方面还不错 。 未来苹果很有可能慢慢追上性能 。
总的来说 , MacStudio现在看起来实在太香了 。
他进一步解释道:
“毕竟它是你花4800美元就能买到的最便宜、包含128GBGPU内存的机器 。 现在有了基于GPU加速的PyTorch支持 , 完全可以用来训练大模型、配置大的batchsize 。
对于我所做的那种DL工作 , 数据加载比实际的原始计算能力更容易成为瓶颈 。 ”

文章图片
你心动了吗?
现在就试试?
只需保证你的macOS操作系统在12.3版本及以上 , 且安装了arm64原生Python , 然后去官网下载最新的Pytorch预览版就可以了 。

文章图片
- 需求旺盛!苹果考虑重启原始Homepod
- 为什么科学家知道太阳的原理,却无法制造出人造太阳
- 月球也在太阳系的宜居带中,为何不能产生生命?原来个头太小了
- 为何人类所到之处,地球会“寸草不生”?这符合进化论的原理吗?
- HH47X、H47XF、HDH47X重锤微阻缓闭蝶式缓冲止回阀工作原理
- 中兴|使用中兴Axon40UItra之后,明白屏幕完美,却在市场上遇冷的原因
- 中国移动|中国移动的员工工资原来这么高!
- Java|李佳琦消失扯下阿里“遮羞布”,原来淘宝根本就没有护城河
- 原神|原神:说好数据互通的,为什么自己不能用电脑玩?多数人都没注意
- AMD|为什么iphone屏幕亮度会自动变暗?所有影响屏幕亮度的原因在这里
