成功的基石 寒武纪推第四代智能处理器架构

互联网
2021
12/08
10:26
分享
评论

伴随着寒武纪思元370的正式推出,寒武纪第四代智能处理器架构MLUarch03也终于浮出水面,MLUarch03带来哪些改进和优化,又有哪些值得关注的特点呢?

在全新的MLUarch03架构加持之下,思元370算力最高可达256TOPS(INT8),是上一代产品思元270算力的2倍。相较于峰值算力的提升,思元370在实测性能和能效方面的表现更为优秀:以ResNet-50为例,MLU370-S4加速卡(半高半长)实测性能为同尺寸主流GPU的2倍;MLU370-X4加速卡(全高全长)实测性能与同尺寸主流GPU相当,能效则大幅领先。

MLUarch03架构采用新一代张量运算单元,内置Supercharger模块大幅提升各类卷积效率;采用全新的多算子硬件融合技术,在软件融合的基础上大幅减少算子执行时间;片上通讯带宽是上一代MLUarch02的2倍、片上共享缓存容量最高是MLUarch02的2.75倍;推出全新MLUv03指令集,更完备,更高效且向前兼容。

Supercharger和多算子硬件融合技术

稳步提升定点算力的同时,思元370全面加强了FP16、BF16以及FP32等不同类型的浮点算力,可同时推理和训练任务,增强兼容性以实现更快部署。市场只会留给有准备的人。寒武纪作为初创企业,对客户需求的把握也精细到全流程跟进。比如思元370,不仅可以作为推理芯片,也可以作为训练芯片使用。这样做的好处不仅是寒武纪自己的产品能够兼顾训练与推理,也方便客户全流程的模型部署、业务落地。

此外,思元370还是国内第一款公开发布支持LPDDR5的云端AI芯片,内存带宽是上一代产品的3倍,访存能效达GDDR6的1.5倍。

寒武纪智能芯片架构演进

值得强调的是,寒武纪坚持自研智能芯片架构、指令集的研发工作,是国内外在该技术方向积累最为深厚的公司之一。

通过如思元370这样更具效率的AI芯片在云端场景替代传统GPU,就能够大幅降低前期基础设施建设成本,减少后期运行能耗。可以说,思元370成功推出的背后,不仅是寒武纪研发人员的日夜努力,也是社会各行各业对更高效率AI芯片的迫切需求。

THE END
广告、内容合作请点击这里 寻求合作
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

相关推荐

1
3