AI芯片的应用场景分类

在深度学习的Training阶段,由于对数据量及运算量需求巨大,单一处理器几乎不可能独立完成一个模型的训练过程,因此,Training环节目前只能在云端实现,在设备端做Training目前还不是很明确的需求。

  从应用场景来看,可以分成”Cloud/DataCenter(云端)”和”Device/Embedded(设备端)”两大类。
  在深度学习的Training阶段,由于对数据量及运算量需求巨大,单一处理器几乎不可能独立完成一个模型的训练过程,因此,Training环节目前只能在云端实现,在设备端做Training目前还不是很明确的需求。
  在Inference阶段,由于目前训练出来的深度神经网络模型大多仍非常复杂,其推理过程仍然是计算密集型和存储密集型的,若部署到资源有限的终端用户设备上难度很大,因此,云端推理目前在人工智能应用中需求更为明显。GPU、FPGA、ASIC(GoogleTPU1.0/2.0)等都已应用于云端Inference环境。在设备端Inference领域,由于智能终端数量庞大且需求差异较大,如ADAS、VR等设备对实时性要求很高,推理过程不能交由云端完成,要求终端设备本身需要具备足够的推理计算能力,因此一些低功耗、低延迟、低成本的专用芯片也会有很大的市场需求。
  按照上述两种分类,我们得出AI芯片分类象限如下图所示。
AI芯片的应用场景分类

该文观点仅代表作者,本站仅提供信息存储空间服务,转载请注明出处。若需了解详细的安防行业方案,或有其它建议反馈,欢迎联系我们

(0)
小安小安

相关推荐

  • 比特大陆发布智能视频分析服务器算丰系列产品

    算丰智能服务器SA3内部采用多个BM1682芯片的互联集群式架构,拥有低功耗的主控技术,提供集群管理、任务作业调度、负载均衡、视频图像API接口等服务,相比传统厂商依靠GPU通用图形处理器而设计的服务器,性能功耗比提升了2倍以上,能够同时支持90路视频结构化。

    2024年4月7日
  • 《2020人工智能中国专利技术分析报告》发布

    日前,第24届中国国际软件博览会在浙江省杭州市召开。在人工智能融合发展分论坛上,国家工业信息安全发展研究中心、工信部电子知识产权中心联合发布了《2020人工智能中国专利技术分析报告》(以下简称《报告》),展示我国人工智能(AI)领域创新发展新态势。

    2024年4月7日
  • NVIDIA发布Turing架构,为计算机图形领域带来革新

    Turing架构是自2006年发明CUDA GPU以来的重大飞跃,其采用了可加速光线追踪的全新RT Core,以及面向AI推理的Tensor Core,首次使实时光线追踪成为可能。

    2024年1月28日
  • 视频结构化市场分析:比特大陆携AI芯片突围 挑战传统GPU服务器

    纵观传统安防厂商和新晋算法厂商,他们的服务器方案有一共同点:都是基于英伟达的GPU方案,或者是基于TX1/TX2的嵌入式GPU、或者是基于专业数据中心的GPU方案。典型的如海康猎鹰服务器,基于40颗GPU,能够处理40路的视频结构化;支持车辆结构化;支持人体特征识别。

    2024年4月4日
  • 国内人脸识别技术最新发展趋势分析

    引言 人脸识别技术在国内得到了广泛应用,涉及安全监控、金融支付、智能门禁等多个领域。近年来,随着科技的不断发展与进步,人脸识别技术也在不断演进,出现了一些新的趋势和创新。本文将从几…

    2024年12月13日
  • 中科院自动化所在人脑视觉信息编解码方面取得新进展

    尽管现有的视觉信息解码模型在对大脑信号的分类、识别任务上表现良好,但是试图通过大脑视觉皮层信号精确重建视觉刺激内容仍然非常困难。阻碍人们有效地进行视觉信息解码的因素主要包括 fMRI 数据维度高、样本量小、噪声严重、解码模型不科学等。传统的基于多体素模式分析(Multi-Voxel Pattern Analysis, MVPA)的视觉信息解码方法直接在高维的 fMRI 体素空间和视觉图像像素空间建立映射关系,这种解码方法很容易造成对冗余或噪声体素的过拟合。

    2024年4月24日