首页 > 生活 > 正文

研究人员开发出节能的光学神经网络

来源:生活2024-08-07 16:24:30
导读 EPFL研究人员发布了一个可编程框架,该框架克服了基于光学的人工智能系统的关键计算瓶颈。在一系列图像分类实验中,他们使用低功率激光器的...

EPFL研究人员发布了一个可编程框架,该框架克服了基于光学的人工智能系统的关键计算瓶颈。在一系列图像分类实验中,他们使用低功率激光器的散射光,以电子能量的一小部分执行精确、可扩展的计算。

随着数字人工智能系统的规模和影响力不断扩大,训练和部署它们所需的能源也在不断增加,更不用说相关的碳排放了。最近的研究表明,如果目前的人工智能服务器生产以目前的速度继续下去,到2027年,它们的年度能源消耗可能会超过一个小国的能源消耗。

深度神经网络的灵感来源于人类大脑的结构,由于多层类似神经元的处理器之间存在数百万甚至数十亿个连接,因此特别耗电。

为了应对这种迅速增长的能源需求,研究人员加倍努力实现光学计算系统,这种系统自1980年代以来就已在实验中存在。这些系统依靠光子来处理数据,尽管理论上光可以比电子更快、更有效地进行计算,但一个关键的挑战阻碍了光学系统超越电子技术的能力。

DemetriPsaltis表示:“我们的方法比最先进的深度数字网络节能1,000倍,这使其成为实现光学神经网络的有前途的平台。”

“为了对神经网络中的数据进行分类,每个节点或‘神经元’必须根据加权输入数据做出是否触发的‘决定’。这一决定导致了所谓的数据非线性变换,这意味着输出与输入不成正比,”EPFL工程学院应用光子学设备实验室负责人ChristopheMoser表示。

莫泽解释说,虽然数字神经网络可以轻松地用晶体管进行非线性变换,但在光学系统中,这一步需要非常强大的激光器。

Moser与学生MustafaYildirim、NiyaziUlasDinc和IlkerOguz以及光学实验室负责人DemetriPsaltis合作,开发了一种节能的光学方法来完成这些非线性计算。

他们的新方法涉及在低功率激光束的空间调制中对数据(如图像像素)进行编码。光束会多次反射回自身,从而导致像素的非线性倍增。

Psaltis表示:“我们在三个不同数据集上进行的图像分类实验表明,我们的方法具有可扩展性,并且比最先进的深度数字网络节能1,000倍,这使其成为实现光学神经网络的一个有前途的平台。”

该项研究最近发表在《自然光子学》杂志上。

在自然界中,光子并不像带电电子那样直接相互作用。因此,为了在光学系统中实现非线性变换,科学家必须“强迫”光子间接相互作用,例如使用强度足以改变其穿过的玻璃或其他材料的光学特性的光。

科学家们用一种简单而优雅的解决方案解决了对高功率激光器的需求:他们在低功率激光束的表面对图像像素进行空间编码。通过两次执行这种编码,通过调整编码器中光束的轨迹,像素会自行相乘,即平方。

由于平方是一种非线性变换,这种结构修改实现了神经网络计算所必需的非线性,而能耗却只是其中的一小部分。这种编码可以进行两次、三次甚至十次,从而提高了变换的非线性和计算的精度。

“我们估计,使用我们的系统,光学计算乘法所需的能量比电子系统所需的能量少八个数量级,”Psaltis说。

Moser和Psaltis强调,他们的低能耗方法的可扩展性是一个主要优势,因为最终目标是使用混合电子光学系统来减轻数字神经网络的能量消耗。

然而,要实现这种规模化还需要进一步的工程研究。例如,由于光学系统使用的硬件与电子系统不同,研究人员下一步正在着手开发一种编译器,将数字数据转换成光学系统可以使用的代码。

关键词:
版权声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。

猜你喜欢

最新文章