场景|如何解决AI长尾场景问题？商汤提出了自己的 “暴力美学”( 二 )

这一上海临港在建的计算中心，也是目前亚洲最大的人工智能算力中心，能满足海量数据的高速调用，同时保证成本低廉，为通用场景的大模型算法提供支持。预计 2021 年底交付。

文章插图
图丨商汤科技新型人工智能计算中心 AIDC 效果图（来源：商汤科技）
那么商汤为何要自建算力中心？现有人工智能时代对于基础设施的要求，与十年前相比有很大区别。现有厂商提供的云服务，并不能满足未来 AI 大规模研发和规模化落地对算力和工具的需求。
商汤的算力打磨，能将大量高性能的服务器、利用高速的网络联结在一起，适应于大模型训练，打造 “新基建”，且已在内部稳定运行超过六年时间。
所以商汤打造这样一个存储和计算系统，能实现低成本的、高速的访问。基于大量真实场景的数据，实现几百上千数据集的随机访问。同时商汤现有的研究也都转移到了 AIDC 算力中心，为行业和自研提供双重支撑。
而在平台层上，除原有的训练框架 SenseParrots，商汤还新推出了推理框架。
训练和推理，是深度学习的一体两面，有了 “训练” 对大量数据进行碰撞、挖掘，再利用 “推理” 框架得到想要的结果，就能实现智能的精准达成。商汤则选择打造了自己的推理框架 SensePPL，并将其开源。
这一通用性、云端框架，能满足云端推理的需求，使大量繁杂的数据，在云端进行复杂计算并快速产出结果，支持多平台部署，满足实地的场景智能需求与业务部署。推理和训练相承接，完成了端到端的闭环。
SensePPL 还实现了 OpenPPL 开源计划，开源使推理框架的开放性更好，也更显示了商汤强势的基础实力。对于商汤来说，只有框架真正开源才能为更多开发者所使用，使框架从数据和业务中来、再回到中去，形成完整闭环。
这也是目前国内少数的开源推理框架，这一点上，商汤比肩的是英特尔和英伟达。同时，在面向视觉的多种模型中，SensePPL 的端到端推理性能实现了对它们的超越。
在图像处理上，SensePPL 能快速支撑摄像和智能处理的需求，在毫秒级时间内响应，以自主研发的、极致优化的算子，提供端到端优异性能，充分发挥出芯片的能力。在数据管理、存储、调用上保持优秀，保证数据安全。
在更大的愿景上，商汤打造 AI 大装置还可以描述为：一是为支撑不同行业、突破现有技术生态；二是从提供企业级装置，到提供行业平台；三是在实际业务中打磨和迭代，为各形态芯片提供通道、实现算力成本下降。
商汤的 AI 大装置能力已经打磨成 “三层结构”：算力层处于最底层，通过近两万块 GPU 提供强大可调用的算力；平台层包括数据平台、算法训练框架和推理引擎，可以打造通用模型，方便部署于各种各样的终端设备；算法层则能基于各种丰富的创新算法工具为企业和行业赋能；不仅如此，商汤还通过 OpenMMLab 计划将领先的算法开源，在开源社区 GitHub 上有超过 37000 颗星。
这样就形成了一套可快速部署的 AI 大装置。强大的算力基础提供完善的硬件条件，为 AI 时代爆炸的大数据、大参数模型提供坚强支持，深度学习框架则将算力的实力发挥到最强，最适于通用场景的设计，能发挥出最大算力以及多种功能，开源模式更保证框架应用到多种设备中，完成从终端中来、到终端中去的闭环。算法工具箱和开源的框架，则将具体的 AI 能力快速赋能，快速适用于通用场景及长尾应用的适应化改造。
暴力计算解决大多数通用场景的问题，加上少数定制化场景的适配，就能有效完成大规模 AI 的部署、降低 AI 的边际成本。