数学是物理世界的语言,亚历克斯·汤森在任何地方都能看到数学模式:天气、声波移动的方式,甚至斑马鱼胚胎发育的斑点或条纹。“自从牛顿写下微积分以来,我们一直在推导称为微分方程的微积分方程来模拟物理现象,”艺术与科学学院数学副教授汤森说。
汤森说,如果你已经了解系统的物理特性,这种推导微积分定律的方法是可行的。但是学习物理学仍然未知的物理系统呢?
在偏微分方程 (PDE) 学习这一新兴且不断发展的领域中,数学家从自然系统中收集数据,然后使用经过训练的计算机神经网络来尝试推导基础数学方程。在一篇新论文中,Townsend 与牛津大学的共同作者 Nicolas Boullé 和工程学院土木与环境工程教授 Christopher Earls 一起,用一种新颖的“理性”神经网络推进了 PDE 学习,揭示了其以数学家可以理解的方式发现:通过格林函数——微积分中微分方程的右逆。
这种人机合作是朝着深度学习将加强对天气系统、气候变化、流体动力学、遗传学等自然现象的科学探索的那一天迈出的一步。3 月 22 日发表在《科学报告》上的“通过人类可理解的深度学习对格林函数的数据驱动发现” 。
作为机器学习的一个子集,神经网络受到神经元和突触的简单动物大脑机制的启发——输入和输出,Townsend 说。神经元——在计算机化神经网络中称为“激活函数”——从其他神经元收集输入。神经元之间是突触,称为权重,将信号发送到下一个神经元。
“通过将这些激活函数和权重组合在一起,你可以提出非常复杂的映射,将输入转换为输出,就像大脑可能会从眼睛接收信号并将其转化为想法一样,”Townsend 说。“特别是在这里,我们正在观察一个系统,一个 PDE,并试图让它来估计可以预测我们正在观察的东西的格林函数模式。”
数学家们研究格林函数已经有近 200 年的历史了,汤森说,他是这些函数的专家。他通常使用格林函数来快速求解微分方程。Earls 建议使用格林函数来理解微分方程而不是求解它,这是一种逆转。
为此,研究人员创建了一个定制的理性神经网络,其中激活函数更复杂,但可以捕捉格林函数的极端物理行为。Townsend 和 Boullé 在 2021 年的另一项研究中引入了理性神经网络。
“就像大脑中的神经元一样,大脑不同部位也有不同类型的神经元。它们并不完全相同,”汤森说。“在神经网络中,这对应于选择激活函数——输入。”
理性神经网络可能比标准神经网络更灵活,因为研究人员可以选择各种输入。
“这里的一个重要数学思想是,我们可以将激活函数更改为可以实际捕捉我们对格林函数的期望的东西,”汤森说。“机器为自然系统学习格林函数。它不知道它的含义;它无法解释它。但我们人类现在可以查看格林函数,因为我们已经学到了一些我们可以在数学上理解的东西。 "
Townsend 说,对于每个系统,都有不同的物理特性。他对这项研究感到兴奋,因为它将他在格林函数方面的专业知识运用到新应用的现代方向上。