聚焦|?君正 T40,聚焦 SVIoT 新赛道( 二 )


AI-Engine(AIE)是君正一整套的AI加速引擎,AIE引用了多种DSA的设计理念,实现了对DL/CV算法多维度的加速:
聚焦|?君正 T40,聚焦 SVIoT 新赛道


T40上的AIE规格如下:

  • 最高8T ops算力,int16/in8/int4/in2混合量化,实测利用率可达70%以上;
  • 512bit SIMD向量加速指令集,使用灵活;
  • 协处理器单元,优化前后处理;
  • 高效RAM pool,深度优化内存带宽吞吐;
  • 实测运行功耗低于500mW,能耗比最低达到了0.05W/T级别。
Magik是一个面向端侧AI应用的全栈式开发平台,除了基本的工具链还包含其他丰富的辅助开发资源,并且支持后量化和更先进的量化感知训练(QAT)。
聚焦|?君正 T40,聚焦 SVIoT 新赛道


Magik集模型训练、优化转换、部署推理于一体,并提供模型检查器、调优器、性能分析器等工具:
  • 全面支持pytorch/tensorflow/mxnet/caffe/onnx等主流框架;
  • 支持量化感知训练(QAT)和后量化;
  • 支持2/4/8/16精度混合训练及转换优化;
  • 开放常见算法全流程代码,以及经典网络的backbones。
端级算法本身呈现多样性,碎片化的客观现状,合肥君正利用AIE+Magik,能有效突破端侧AI的算力瓶颈,获得明显的产品落地优势:
  • MAC利用率提升1到2倍,推理速度提升2到4倍;
  • 算法运行的RAM/ROM消耗减少50%~70%;
  • 带宽降低35%~85%;
  • 发热减少40%~80%。
算法赋能,好用才是王道君正算法总监Sandy评价Magik时认为:“算力和工具只是基础,真正能把算法落地到各种场景中,并取得成本、效率、功耗等多方面的优势才是王道!”
据了解,AIE+Magik已经成功服务了超过几十家客户,包括一些行业知名品牌、传统算法公司、行业监控企业、大型互联网品牌、电信运营商以及初创极客。
君正联合了一系列算法合作伙伴,针对各种场景提供了完整的算法赋能方案,极大地加速产品落地过程。目前与君正T40直接或间接合作的有一系列算法供应商、十多家场景应用厂家,相关大小项目过百。
在各方合作之下,基于T40应用厂商可快速出新算法,如此,在产业这条多米诺骨牌下,厂商得以快速覆盖新场景,赋能新行业。
在传统应用上,如车辆识别、车牌识别、行人检测,人脸识别,文字识别、周界防范、物品检测、移动侦测等已经十分成熟,除此之外,另有许多新颖创新的场景正在陆续量产中,如家庭与宠物识别、枪球联动、OCR、骨骼行为分析等。
聚焦|?君正 T40,聚焦 SVIoT 新赛道


Sandy表示:“Magik到目前已经成功服务了十几家算法客户,我们客户最快的记录是两周完成一个算法的移植。”
超低功耗设计,可以有多低?功耗,是智能硬件领域永恒不变的话题。
低功耗,是君正长期内在的技术基因之一。从早年的教育电子/PMP,到之前的可穿戴腕表,再到当前的SVIoT,君正芯片历来是功耗的佼佼者。T40理所当然地沿袭了这一优势。
T40在AI算力全开的情况下,功耗仍能控制在优秀范围。根据不同场景,实测功耗数据如下:
聚焦|?君正 T40,聚焦 SVIoT 新赛道


其中AI引擎的推理功耗小于500mW,最低能耗比达到了震撼的0.05W/T级别。
关于功耗,Jerry表示:“过去几年,在功耗方面的PK,T系列芯片暂时还没有输过。”
产品属性齐全,缺芯之下仍可量产?!基于T40,君正提供了各种完整的方案参考、软件代码、第三方算法以及云平台资源,包括AI智能安防相机方案、低功耗摄像机方案、枪球联动方案、VSLAM方案、人脸面板方案、视频会议方案等。不知不觉间,优质的服务成为了君正在智能视觉市场的核心竞争力之一。