AI芯片的功能分类

从功能来看,AI芯片可以分为Training(训练)和Inference(推理)两个环节。Inference环节指利用训练好的模型,使用新的数据去"推理"出各种结论,如视频监控设备通过后台的深度神经网络模型,判断一张抓拍到的人脸是否属于黑名单。虽然Inference的计算量相比Training少很多,但仍然涉及大量的矩阵运算。在推理环节,GPU、FPGA和ASIC都有很多应用价值。

  从功能来看,AI芯片可以分为Training(训练)和Inference(推理)两个环节。
  Training环节通常需要通过大量的数据输入,或采取增强学习等非监督学习方法,训练出一个复杂的深度神经网络模型。训练过程由于涉及海量的训练数据和复杂的深度神经网络结构,运算量巨大,需要庞大的计算规模,对于处理器的计算能力、精度、可扩展性等性能要求很高。目前在训练环节主要使用NVIDIA的GPU集群来完成,Google自主研发的ASIC芯片TPU2.0也支持训练环节的深度网络加速。

AI芯片的功能分类
  Inference环节指利用训练好的模型,使用新的数据去”推理”出各种结论,如视频监控设备通过后台的深度神经网络模型,判断一张抓拍到的人脸是否属于黑名单。虽然Inference的计算量相比Training少很多,但仍然涉及大量的矩阵运算。在推理环节,GPU、FPGA和ASIC都有很多应用价值。

该文观点仅代表作者,本站仅提供信息存储空间服务,转载请注明出处。若需了解详细的安防行业方案,或有其它建议反馈,欢迎联系我们

(0)
小安小安

相关推荐

  • 人工智能进入“深度学习+”阶段

    我国的产业体系品类齐全、体量庞大,深度学习驱动的人工智能创新应用,有助于形成产业良性循环,促进底层技术突破,加快现代化产业体系升级。

    2024年2月24日
  • 深度学习为什么再一次的火遍安防圈?

    2016北京安博会近日落幕,连着四天白天晚上的加班已经让安防圈的各位媒体精疲力尽,虽然很累,但也收获巨大。要说什么技术在安博会上火了一把,我以为是深度学习。深度学习为什么再一次的火遍安防圈?

    2023年9月14日
  • 百度深度学习飞桨平台全新发布 加速AI规模化落地

    由百度打造的飞桨是国内首个自主研发、开源开放、功能丰富的产业级深度学习平台,经多轮升级和打磨之后,在深度学习框架的开发、训练、预测及部署等核心能力上均有着比肩甚至超越国外主流框架的表现。IDC报告显示,2021年飞桨位居中国深度学习平台市场综合份额第一。

    2024年2月8日
  • 人工智能技术现状剖析及发展趋势

    AI技术一直处于计算机技术的前沿,其研究的理论和发展在很大程度上将决定计算机技术的发展方向。目前很多AI的研究成果深刻地改变着人们的生活,将来,AI的发展将会更加快速,会给人们的生活工作和教育带来更大的影响。

    2024年4月5日
  • 人工智能快速发展 与智能技术革命长处之道在哪里

    无监督学习则通过训练程序,使机器能直接从已有数据中提取特征,对信息进行压缩,用于完成其他任务。如传统的主成分分析,可以将高维特征使用低维度向量近似。例如,我们可以使用主成分分析技术压缩图片,以达到节省储存空间的作用。因此,这类机器学习算法并不需要以往经验,也被称之为无监督学习。

    2024年11月27日
  • 夯实AI新型基础设施 加快科技自立自强步伐

    当前,我国正在建设科技强国的道路上大步迈进。习近平总书记在中共中央政治局第二次集体学习时强调,“要加快科技自立自强步伐,解决外国‘卡脖子’问题”。党的二十大报告明确指出,必须坚持科技是第一生产力、人才是第一资源、创新是第一动力,深入实施科教兴国、人才强国、创新驱动发展战略。

    2024年2月24日