寒武纪发布第三代云端AI芯片思元370全新编码较上代节省42%带宽

据介绍,此次发布的256TOPS算力的思元370主要面向中高端推训场景,与主要面向训练的512TOPS高端产品思元290形成协同,共同为客户提供全功能、全场景的智能算力。

  中国安防行业网从寒武纪官方微信平台获悉,2021年11月3日,寒武纪发布第三代云端AI芯片思元370、基于思元370的两款加速卡MLU370-S4和MLU370-X4、全新升级的Cambricon Neuware软件栈。
寒武纪发布第三代云端AI芯片思元370全新编码较上代节省42%带宽
  ▲ 寒武纪第三代云端AI芯片思元370
  据了解,思元370基于7nm制程工艺,是寒武纪首款采用chiplet(芯粒)技术的AI芯片,集成了390亿个晶体管,最大算力高达256TOPS(INT8),是寒武纪第二代产品思元270算力的2倍。凭借寒武纪最新智能芯片架构MLUarch03,相较于峰值算力的提升,思元370实测性能表现更为优秀:以ResNet-50为例,MLU370-S4加速卡(半高半长)实测性能为同尺寸主流GPU的2倍;MLU370-X4加速卡(全高全长)实测性能与同尺寸主流GPU相当,能效则大幅领先。
  思元370也是国内第一颗支持LPDDR5内存的云端AI芯片,内存带宽是上一代产品的3倍,访存能效达GDDR6的1.5倍。
  同时,寒武纪全新升级了Cambricon Neuware软件栈,新增推理加速引擎MagicMind,实现训推一体,显著提升了开发部署的效率,降低用户的学习成本、开发成本和运营成本。
  在视觉领域,思元370升级了视频图像编解码单元,可提供更高效的视频处理能力和更优的编码质量,支持更复杂、更繁重、低延时要求的计算机视觉任务。
  解码方面,思元370集成了强大的媒体性能,可支持132路1080p视频解码或10路8K视频解码。编码方面,全新编码器通过灵活的码率优化(RDO)控制、多参考帧、二次编码等特性组合,在相同图像质量(全高清视频PSNR)的情况下比上一代产品节省42%带宽,有效降低带宽成本。
  另外,针对当前信息安全问题,寒武纪在思元370芯片内置安全模块,切实保障用户信息安全。思元370更是寒武纪第一颗支持国内外主流加密标准的云端芯片,支持用户数据、深度学习模型的加解密以及计算结果的加密输出,通过信任根的方式,保障AI芯片在启动及运行过程中加载的所有代码的安全性,还支持远程认证,用户可在业务运行过程中远程验证AI环境安全性。
  据介绍,此次发布的256TOPS算力的思元370主要面向中高端推训场景,与主要面向训练的512TOPS高端产品思元290形成协同,共同为客户提供全功能、全场景的智能算力。
  思元370在2020年三季度实现流片,相关加速卡产品已于2021年二季度陆续送测客户。目前,部分客户已完成测试、导入,产品进入早期销售阶段,并且已与国内主流互联网厂商开展深入的应用适配,在语音、视觉等场景的性能表现超出客户预期。

该文观点仅代表作者,本站仅提供信息存储空间服务,转载请注明出处。若需了解详细的安防行业方案,或有其它建议反馈,欢迎联系我们

(0)
小安小安

相关推荐

  • 中国芯如何在物联网时代并购浪潮中崛起

    芯片行业将随着越来越多的不同功能设备联网和运算需求,呈现出高度碎片化的状态。而芯片行业的竞争,也将由专利和技术的竞争,转为产业整合能力的竞争。同时,由于未来联网设备呈几何数量增长,将带动整个芯片行业产值的大幅提升,这也是我国芯片产业一次巨大机会。

    2024年4月8日
  • 全球首颗!扬州造人工智能芯片正式对外发布

    仅米粒大小的“迷你”芯片上,每秒钟可以完成190Gops(也就是1900亿次)操作运算,日前,这颗类视神经网络人工智能视觉芯片正式对外发布。

    2024年1月30日
  • 新华社分析突破“缺芯”困境

    在芯片产业的投资方向也需更有产业眼光的人掌控。在国家财政支持之外,还需要市场、社会资本等积极参与。有专家建议,中国证券监督管理委员会可为芯片企业提供一些如加速审批等便利通道,使企业有机会从市场筹得更多研发经费。

    2024年4月7日
  • 硅光子技术的前世今生

    光子计算一度被认为是最有希望的未来技术。与半导体芯片相比,光芯片用超微透镜取代晶体管、以光信号代替电信号进行运算。光芯片无需改变二进制计算机的软件原理,但可以轻易实现极高的运算频率,同时能耗非常低,不需要复杂的散热装置。与电脑对应,设想中的光学计算机被称作“光脑”。

    2024年4月10日 知识
  • 思必驰旗下深聪智能发布新一代人工智能芯片TH2608

    思必驰作为国内专业的对话式人工智能平台公司,不断推进着AI技术的研发与应用,思必驰旗下芯片公司深聪智能于2019年推出了AI芯片太行TH1520,搭载思必驰全链路人工智能语音技术,低功耗算法的优势使其广泛地应用于智能家居白电、黑电以及智能车载领域,推进传统行业的规模化和智能化升级。

    2024年1月28日
  • 山东产研院发布4K人工智能视觉处理芯片

    1月29日,山东产业技术研究院正式发布4K超高清人工智能视觉处理芯片,这也是山东产研院集成电路创新中心联合国科微基于泰山平台推出的第二颗高端芯片。

    2024年1月29日