是个很有效的trick ， 具备很好的理论基础 ， 但是计算成本可能会翻倍：


图源：知乎用户@SummerClover
还有网友指出 ， 这篇论文的研究结果实际用途很有限 ， 因为全批量设置的成本太高了 ， 不是普通开发者负担得起的 。 相比之下 ， SGD训练鲁棒性强 ， 泛化性更好 ， 也更省一次迭代的计算资源 。
看来该论文进行了一些理论和实验验证 ， 但正如网友提议的：能否在其他数据集上进行更多的实验来验证其结论？


对此 ， 你怎么看？
【模型泛化不必随机训练全批量GD媲美SGD，网友：计算成本负担不起】参考链接：;utm_medium=social&utm_oi=56560353017856&utm_content=group3_supplementQuestions&utm_campaign=shareopn

• 荣耀|2022下半年荣耀手机哪款值得入手？不必纠结，口碑已给出答案
• 从几个月到几分钟，NLP模型运行效率暴涨，小公司也能玩大模型
• 腾讯文档|从事展览3d模型设计，你需要具备那些能力？---模大狮网
• 英伟达|NVIDIA Triton 推理引擎公开课上新：基于多实例 GPU 和 K8s 的大规模 CV 模型部署实践
• 肠道菌群|肠道菌群又有新“用途”：建立非酒精性脂肪肝发病预警模型
• aiXcoder XL智能编程大模型发布：自然语言一键生成方法级代码
• AI自己写代码让智能体进化！OpenAI的大模型有“人类思想”那味了
• 字节跳动 AI Lab 提出多模态模型：X-VLM，学习视觉和语言多粒度对齐
• excel|买手机不必抠抠搜搜，目前口碑最好的三款旗舰机，至少能用三五年
• 荣耀|事实证明，买新不买旧不必太在意，新老旗舰对比，提升的只是细节