gpu|512张GPU炼出10万亿参数巨模型!这个模型今年双十一已经用上了( 二 )
可以说,阿里巴巴内部超过40个业务团队背后,都有着基于个版本的M6模型形成的服务化平台的支撑。
而除了电商领域,还有金融、工业、传统科学等诸多应用方向。
现在,M6服务化平台以及成为了前业界覆盖最广泛的大模型生态的服务化平台。
那么未来是继续追求更大量级的模型,进行参数规模的迭代吗?
阿里达摩院M6的科研团队表示:
伴随着参数规模的扩大,当前的预训练模型在语言模型建模之类的任务上取得了不错的进展,
但对知识的理解还比较浅薄。
因此,如何将大模型有效迁移到多种类型的下游任务上,让大模型真正地理解并运用知识,这将是研究人员会进一步探索的问题。
论文:
https://arxiv.org/abs/2110.03888
— 完 —
【 gpu|512张GPU炼出10万亿参数巨模型!这个模型今年双十一已经用上了】量子位 QbitAI · 头条号签约
- 池塘|骁龙8 Gen 2曝光:GPU简直太强了,完全不输苹果!
- RTX|联想拯救者Y9000K 2022将至:CPU峰值175W、GPU稳定175W
- GPU|摩托罗拉Razr 3研发中,竖向折叠屏手机市场开始热闹起来?
- 流行|AMD推出GPU性能比较工具:官方对比NVIDIA显卡性能
- 英伟达|NVIDIA Triton 推理引擎公开课上新:基于多实例 GPU 和 K8s 的大规模 CV 模型部署实践
- GPU|菜鸟开始做自营物流,叫菜鸟直送,京东、顺丰慌了?
- 显卡|85万核心的世界最大AI芯片打破记录:要"杀死" GPU!
- GPU|苹果新系统抄袭华为鸿蒙系统?鸿蒙分布式系统有多超前?
- 一直以来|amd官方上线gpu比较工具:可查看游戏帧数
- AMD|AMD推出GPU性能比较工具:官方对比NVIDIA显卡性能
