人工智能研究最新进展:原子尺度级别上的机器学习

发表在《自然-纳米技术》上的一篇重磅研究论文中,科学家报告说,相互连接的原子网络所组成的“量子大脑”,可用于更好地构建模拟人的大脑的学习方式,这种自适应体系结构,为直接在原子尺度级别的硬件中进行“芯片上机器学习”铺平了道路。

【安防在线 www.anfang.cn】发表在《自然-纳米技术》上的一篇重磅研究论文中,科学家报告说,相互连接的原子网络所组成的“量子大脑”,可用于更好地构建模拟人的大脑的学习方式,这种自适应体系结构,为直接在原子尺度级别的硬件中进行“芯片上机器学习”铺平了道路。

论文题为:“能够自适应的原子玻尔兹曼机”。有人会问,什么是原子玻尔兹曼机?为什么说是自适应的?为此,需要从玻尔兹曼机的机器学习方式简单说起。

我们许多人知道,人的大脑的神经网络中包含约1000亿个神经元。每当我们的大脑执行任务时,这些神经元就会通过称为突触的微小结状结构,从其网络中的其它神经元接收电信号。一旦跨突触的信号总和达到某个临界值,神经元就会通过向其它神经元发送一系列电压尖峰来“触发”。不同神经元之间的连接强度被称为突触权重,随着我们学习新事物和执行新任务而自适应变化。

人工智能研究最新进展:原子尺度级别上的机器学习

当今许多受人的大脑启发的神经形态的设备都使用机器学习,即通过计算机使用软件或算法来训练一组给定范例的进行学习,以模拟人的大脑这种自主开发执行新任务的人工智能的能力。这些软件或算法来训练的机器学习方法限制了其功能和效率,同时使学习变得越来越复杂,因此需要将物理现象连接到机器学习模型的新方法。一种这样的机器学习模型被称为玻尔兹曼机。

玻尔兹曼机(英语:Boltzmann Machine,缩写:BM)是由随机激发神经元组成的神经网络,可以通过适应神经元之间的突触相互作用来学习复杂的概率分布。它代表了非常通用的一类随机神经网络,可用于数据聚类、生成建模和深度学习。基于软件的随机神经网络的一个关键缺点是需要进行蒙特卡洛采样,这种采样会随学习神经元数量的增加而难以缩放。

从物理上讲,玻尔兹曼机是相互作用的自旋系统,其中随机波动的自旋或磁矩代表神经元。玻尔兹曼机已应用在深层人工神经网络中的监督式和无监督式学习中进行降维。它在形式上等同于具有记忆承载加权相互作用的伊辛模型自旋系统。伊辛模型(Isingmodel)是一类描述物质相变的随机过程(stochastic process)模型。玻尔兹曼机学习问题是调整突触权重,以使自旋的热力学平衡分布,尽可能类似于给定的数据分布。

玻尔兹曼机是一中递归神经网络,其中波动的神经元是二进制值(0或1),等效于随机的伊辛自旋,它与有限温度的伊辛自旋模型密切相关,因而从Boltzmann-Gibbs分布而得名。

但是,计算给定玻尔兹曼机的热平衡很难,计算时间与自旋次数成指数增长。因此,通过广泛的蒙特卡洛采样来估算热平衡,这在计算上相当昂贵。因此,利用真实材料中的自旋来模拟玻尔兹曼机,有利于允许材料的物理计算平衡自旋分布。为了使这样的系统可学习,所需要的材料不仅要表现出一定程度的学习记忆力,而且还要表现出能适应的能量态势,以便表现出许多可能的自旋分布。

磁性原子正逐渐成为实现玻尔兹曼机的平台,因为可以使用它们来创建可调节的自旋网络,以显示必要的随机运动。问题在于这些原子之间的磁性交换相互作用,通常具有很短的范围,这限制了可以形成的与其它原子或神经元的连接数量。

现在,科学家在原子级硬件中实现机器学习算法,创建了一个原子自旋系统,这一新系统由黑色磷底物上的钴原子阵列所组成,该系统直接在一个定义明确的材料系统的轨道动力学中模拟了玻尔兹曼机,即一种自适应的原子玻尔兹曼机。

在该研究论文中,研究人员直接在半导体黑磷表面上耦合钴原子的门控集合的随机自旋动力学中,从物理上直接实现了玻尔兹曼机。研究发现,当将单个钴原子放在二维半导体上并施加电压时,可以在电子状态下以二进制对单独耦合的钴原子存储二进制位(s=0和1)的信息。

研究人员利用扫描隧道显微镜技术将钴原子定位在2D材料上,并在原子之间建立长距离耦合。他们发现,当他们向原子网络施加电压时,它会产生一个输出信号,该信号来自电子从一个钴原子“跃迁”到另一个钴原子,该输出信号在某种程度上类似于神经元产生的放电。

如图所示通过各向异性耦合构建二元原子突触。 a,c和d中三个原子系统的示意图,其中两个原子s1和s2强耦合,而k原子弱耦合到s1和s2。 b,玻尔兹曼机因子图表示,映射到a中描述的实验配置在c和d中显示。

如图所示突触动力学和自适应机制。 a,具有三个s原子和四个k原子的七原子钴集合体的恒流扫描隧道显微镜图像(Vs = -400 mV,比例:1nm)。 b,用于建模a中原子集合的玻尔兹曼机因子图表示,其中的图表说明了环境对玻尔兹曼机的影响。

如图所示黑磷上钴原子耦合后的神经动力学。 a,扫描隧道显微镜在开关阈值以上对系统进行门控的实验设置示意图。在此,由于局部能带弯曲(灰色)的差异,s1和s2原子随机切换,而k保持静态。 b,两个价态构型(s = 0和1)中的孤立钴原子。 c,状态(s1,s2)中的两个钴原子。

除了观察输出信号中的尖峰行为外,研究人员还注意到钴原子团的行为根据接收到的输入而有所不同。例如,当材料以一定的电压长时间刺激后,类似突触的带有记忆的原子会自动响应,从而有效地改变了突触的重量。纳米技术专家、物理学家Wolfram Pernice评价说:“这些材料是自学的。” “特别令人兴奋的是,学习过程是直接在材料中实现。” “这种使用单个原子实现人工神经元和突触的方式非常优雅。”

这种新型的神经形态架构的特点之一就是创建了“芯片上”的机器学习,从而消除了对通过外部计算机实施的“芯片外”训练方案的依赖,发现和探索能够根据数据自动适应自身的材料,强调需要原子级别尺度的材料,这些材料可根据外部刺激而固有地重新配置,并根据过去的经验展现出记忆力。

通过表征给定突触配置的神经元的条件稳态分布,该研究说明了一个整体可以代表许多不同的概率分布。通过探索内在的神经突触动力学,揭示了响应外部电刺激的突触的自主重组。这种自适应体系结构为直接在原子级别的硬件中进行芯片上机器学习铺平了道路,同时为模拟更接近人脑的“量子大脑”迈进了一步。

该文观点仅代表作者,本站仅提供信息存储空间服务,转载请注明出处。若需了解详细的安防行业方案,或有其它建议反馈,欢迎联系我们

(0)
小安小安

相关推荐

  • 我们距离云还有多远?

    云计算从最初的概念热炒到2015年真正崛起,并步入今天的加速发展期。但是,据调查发现,云计算从一个引领着信息通信产业发展方向的创新技术,转变为现实的“生产力”,仍然有很长的路要走。

    2024年4月12日
  • 《云计算白皮书》 2016发布 配合多项政策指导市场发展

    2016年9月1号上午,中国信息通信研究院在2016可信云大会上正式发布《2016云计算白皮书》。这也是中国信通院自2012年开始,第三次发布《云计算白皮书》。

    2024年1月28日
  • 边缘计算技术解读及优势分析

    假如你手机里有个文件太大装不下了,云计算的解决方法是把它传到千里之外的服务器中心帮你存着,雾计算是传到小区的服务器帮你存着,边缘计算是看看你的电脑、冰箱、洗衣机谁有地方就帮你存哪……显然,边缘计算运算设备和终端设备之间距离最近,传输效果最直接,还可以利用近距离网络和局域网络,当然运算效率也会更高一点。

    2024年4月13日
  • 美发布《国家战略性计算计划(更新版):引领未来计算》

    11月14日,美国白宫科学技术政策办公室(OSTP)发布《国家战略性计算计划(更新版):引领未来计算》。与2016年的计划相比,更新版最终更加侧重于计算机硬件、软件和整体基础设施,以及开发创新的、实际的应用程序和机会,以支持美国计算的未来。

    2024年1月30日
  • 《中国云计算产业发展白皮书》发布 5G+云+AI是重要引擎

    10月12日,国务院发展研究中心国际技术经济研究所正式对外发布《中国云计算产业发展白皮书》。

    2024年1月30日
  • 新一代国产云计算操作系统发布 安全性能显著增强

    云计算是通过网络统一组织和灵活调用软件、运行平台、计算与存储等各种资源,实现大规模计算的信息处理方式,具备超大规模、虚拟化、通用性、高可靠性、高扩展性等特点。据统计,2015年全球云计算产业规模约为1750亿美元,预计2019年可突破3000亿美元。

    2024年1月30日