AI芯片的功能分类

从功能来看,AI芯片可以分为Training(训练)和Inference(推理)两个环节。Inference环节指利用训练好的模型,使用新的数据去"推理"出各种结论,如视频监控设备通过后台的深度神经网络模型,判断一张抓拍到的人脸是否属于黑名单。虽然Inference的计算量相比Training少很多,但仍然涉及大量的矩阵运算。在推理环节,GPU、FPGA和ASIC都有很多应用价值。

  从功能来看,AI芯片可以分为Training(训练)和Inference(推理)两个环节。
  Training环节通常需要通过大量的数据输入,或采取增强学习等非监督学习方法,训练出一个复杂的深度神经网络模型。训练过程由于涉及海量的训练数据和复杂的深度神经网络结构,运算量巨大,需要庞大的计算规模,对于处理器的计算能力、精度、可扩展性等性能要求很高。目前在训练环节主要使用NVIDIA的GPU集群来完成,Google自主研发的ASIC芯片TPU2.0也支持训练环节的深度网络加速。

AI芯片的功能分类
  Inference环节指利用训练好的模型,使用新的数据去”推理”出各种结论,如视频监控设备通过后台的深度神经网络模型,判断一张抓拍到的人脸是否属于黑名单。虽然Inference的计算量相比Training少很多,但仍然涉及大量的矩阵运算。在推理环节,GPU、FPGA和ASIC都有很多应用价值。

该文观点仅代表作者,本站仅提供信息存储空间服务,转载请注明出处。若需了解详细的安防行业方案,或有其它建议反馈,欢迎联系我们

(0)
小安小安

相关推荐

  • 监狱安防网络监控平台的建设解析

    随着监控视频技术的发展,特别是数字监控系统的成熟,视频监控系统可以更有效的帮助狱警对监狱安全进行管理防范,使监控系统不止停留在视频的查看和调用上,更能使监狱进行有效的管理。监狱监控系统特点在于,由总值班室负责调度狱中多个值班。除此之外,还有武警部门负责的监控室对周界外围进行监控,正常情况下,武警与狱警为相互独立的部门,互不干涉。

    2024年4月6日
  • 平安城市建设信息安全系统设计技术要点探讨

    信息化时代的快速发展及广泛应用,给信息的安全性提出了更高的要求,尤其是在平安城市的建设中,如何更好的处理和保证数据、信息的安全,基于现有技术和信息化的发展,也为了更好的保障平安城市中相关信息的安全,本文将结合平安城市建设规范和要求,对平安城市建设中的信息安全技术展开相关探讨。

    2024年4月12日
  • 高清摄像机未来的发展趋势

    高清技术带来的视觉体验已经得到了用户的普遍认可,但在普及应用的过程中,一些配套设施的滞后却在拖延新技术的大规模应用,目前在整个行业进行大规模推广时,普遍存在的问题主要集中在以下几个方面:网络传输带宽、数据处理系统、适合的图像传感器。

    2024年4月16日
  • 华为国内首发完整公有云容灾备份解决方案

    华为云中国行北京站的现场,华为云公布了目前整体进展以及AI时代下华为云EI的理念和思考,并发布国内首个完整的公有云容灾备份解决方案――华为云Multicloud混合云灾备解决方案。

    2024年1月15日 方案
  • “智慧城市”的三大关键技术分析

    智慧城市的核心是以一种更智慧的方法通过利用新一代信息技术来改变城市管理者、居住者相互交互的方式,以便提高交互的明确性、效率、灵活性和响应速度。从整体上看,它至少应该有三层架构:感知层、互联层、应用层。

    2024年4月9日
  • 长沙市高清监控实现重点路段全覆盖

    据岳麓交警大队分控中心数据统计,两年时间内分控中心共通过监控视频抓拍了违法行为154104起,今年1月到6月共查获32141起,而其中抓拍最多的违法行为是越实线变更车道。

    2024年6月14日