AI算力效率突破!声波+光波结合的光学神经网络面世

曦照认知 2024-04-25 05:38:21

在人工智能(AI)的高速发展时代,我们每天都在使用智能设备来简化日常任务。然而,这些智能设备,尤其是语言模型,如ChatGPT,虽然能够创建自然表述的文本并结构化地总结段落,但其巨大的能源需求却是一个不容忽视的问题。随着这些智能设备的发展,我们需要新的解决方案来加快信号处理速度并减少能源消耗。

现在,由马克斯普朗克光科学研究所的Stiller研究小组与麻省理工学院的Englund研究小组合作,开发了一种新的方法,通过在光学神经网络中使用声波来提高数据处理的速度和能效。这项技术可能为光学神经网络的可重构性提供了新的维度,这是实现光子机器学习的关键一步。

研究人员使用光在光纤中产生暂时性的声波,这些声波可以启用电信光纤中的循环功能,这对于解释语言等上下文信息至关重要。通过光驱动产生的旅行声波可以操纵光学神经网络的后续计算步骤。光学信息被处理并与声波相关联,声波的传输时间比光信息流要长得多,因此它们在光纤中的停留时间更长,并且可以逐个链接到后续的每个处理步骤。

这项研究的关键是一种光驱动的旅行声波,它们可以控制光学神经网络的后续计算步骤。声波的传输时间比光学信息流长得多,因此它们可以在光纤中停留更长时间,并逐个链接到每个后续的处理步骤。这个过程的独特之处在于,它完全由光控制,不需要复杂的结构和换能器。

研究人员还展示了第一个实验性的构建块——循环算子,这是循环神经网络领域广泛使用的技术。它允许将一系列计算步骤链接起来,从而为每个单独的计算步骤提供上下文。例如,在人类语言中,单词的顺序可以决定句子的含义。传统的完全连接的计算机神经网络在捕捉上下文时面临困难,因为它需要访问内存。为了克服这一挑战,神经网络已经配备了循环操作,使它们能够捕获上下文信息。

虽然这些循环神经网络在数字实现上很简单,但在光学上的类似实现却具有挑战性,迄今为止还依赖于人工腔体来提供内存。研究人员现在使用声波实现了一个循环算子。因此,光声循环算子(OREO)利用了光学波导的固有属性,无需人工储层或新制造的结构。OREO的优势在于它可以完全通过光学控制,使光声计算机可以在脉冲到脉冲的基础上进行编程。

在未来,使用声波的光学神经网络可以解锁一类新的光学神经形态计算,这种计算可以自发地重新配置,并允许在现有的电信网络中进行大规模的内存内计算。此外,芯片上的光学神经网络的实现也可以从这种方法中受益,该方法可以在光子波导中实现,而无需额外的电子控制。

亲爱的读者,你对这种使用声波来革命化光学神经网络的AI效率突破感到兴奋吗?你认为这项技术将如何影响AI和机器学习的未来?或者你有自己对AI效率和能源消耗的看法和想法吗?欢迎在评论区分享你的想法和见解,让我们一起探讨科技如何帮助我们构建更高效、更环保的智能世界。

参考资料:DOI: 10.1038/s41467-024-47053-6

0 阅读:78

曦照认知

简介:感谢大家的关注