介绍 AI for science的一些基本概念和应用

AI for Science 与科学表征

AI for Science 与 Science for AI

AI4S 并非单向的技术赋能，而是一个双引擎驱动的循环：

• AI for Science：利用 AI 强大的计算能力，解决蛋白质折叠、新材料发现等复杂的科学难题。
• Science for AI：借鉴物理学的第一性原理（如能量守恒、对称性）来重构 AI 模型架构，使其更稳健、更具可解释性。 AlphaFold 3 是这一理念的完美体现，它受热力学启发，引入扩散模型架构，实现了从预测单一蛋白质结构到预测所有生命分子相互作用的跨越。

科学表征的作用

在 AI4S 的通用任务流程中，存在三大挑战：

1. 表征问题：如何将 3D 坐标、分子拓扑图等物理世界信息“翻译”成 AI 能理解的语言。
2. 建模问题：如何通过函数逼近来寻找性质（如能量、硬度）的映射关系。
3. 约束问题：如何将物理定律“编码”进模型。

方榯楷强调，在科学场景中，表征决定了模型的上限。如果将分子的 3D 结构粗暴地拍平为 2D 图像处理，无论模型多强大，都会因丢失关键结构信息而导致预测失败。因此，表征是 AI 理解物理世界的“第一性原理”。

科学表征的四项要求

一个优秀的科学表征应具备以下四个特性：

1. 距离保持：在现实世界中性质相近的物体，映射到隐空间后，其向量距离也应相近。
2. 连续性：隐空间应该是平滑的。在隐空间中缓慢移动向量坐标，对应的现实事物也应产生连续、自然的变化，而非突兀的“闪现”。
3. 可插值与可操作性：对隐空间中两个向量进行插值，其结果应对应现实中介于两者之间的新事物。这为 AI 预测和发现新材料提供了可能。
4. 不变性：表征必须尊重物理世界的对称性。例如，一个分子无论怎样旋转或平移，其本质不变，AI 也应能正确识别。

表征技术的演进

获取高质量表征的技术路径经历了从人工驱动到数据驱动的进化：

• 有监督学习：经典范式，但依赖昂贵的实验室标注数据，且泛化能力有限。
• 自监督学习 (SSL)：让模型从海量无标注数据中学习，具体方法包括：
  • 掩码自编码器：像“完形填空”一样，通过遮盖部分数据让模型进行预测。
  • 变分自编码器 (VAE)：实现从确定性映射到连续概率分布的跃迁。
  • 自回归模型：根据当前状态预测下一秒的物理场状态。
  • 扩散模型：从纯噪声中逐步还原出真实的物理结构。

流体表征案例：16 维隐空间

讲座通过一个流体力学中的“卡门涡街”现象进行了实操演示：

• 任务：将 64×128 的高维流场图像，压缩进一个仅 16 维的隐空间向量中，并尝试复原。
• 结果：
  • 精准重构：AI 能够几乎完美地重构出测试集中的流场图像，均方误差（MSE）低至 10⁻⁴。
  • 智能修复：即使原始图像有大块缺失或大量噪声，AI 也能通过 16 维隐空间“脑补”出完整、干净的物理图像。
  • 性能对比：深度表征学习在此任务上对传统统计方法（如 PCA）形成了降维打击。

表征学习与逆向设计

表征学习是 AI4S 的第一性原理，它将复杂的自然规律浓缩为可计算的向量。但这仅仅是起点，通过将表征学习与生成式模型（如 VAE 或扩散模型）结合，未来可以实现“逆向设计”——即在隐空间中设定性能需求（如高强度、特定带隙），让 AI 直接生成满足条件的全新物理结构。

---

扩散模型与科学生成

扩散模型的基本原理

扩散模型的灵感源于物理学中的非平衡热力学，其过程可被形象地理解：

• 前向加噪 (熵增)：如同墨水滴入清水，有序的信息随时间流逝而丢失，最终变为均匀无序的噪声。
• 反向去噪 (熵减)：神经网络学习如何“逆转时间”，将扩散的分子重新聚集成有序的“墨滴”。

在数学层面，模型依靠得分函数 (Score Function) 作为“登山指南”，指引 AI 从高维概率分布的“山脚”（噪声）爬向“山顶”（真实数据）。为避免陷入局部最优，讲座引入了朗之万动力学 (Langevin dynamics)，通过随机抖动帮助模型寻找全局最优解。

潜空间扩散与 Stable Diffusion

2022 年诞生的 Stable Diffusion 是图像生成领域的里程碑，其核心贡献在于将计算从像素空间转移到了潜空间 (Latent Space)。

• 高效压缩：借助 VAE 编码器，将 512x512 的像素图像压缩为 64x64 的隐向量，剔除冗余信息，保留核心语义。
• 普及应用：这一飞跃使得顶尖模型不再依赖庞大的计算集群，普通显卡也能实现高质量生成。
• 核心架构：预测引擎 UNet 通过“跳跃连接”确保细节不丢失，并配合交叉注意力机制 (Cross Attention)，让 AI 能精准理解人类提示词 (Prompt)。

分子结构预测案例：AlphaFold 3

2024 年发布的 AlphaFold 3 (AF3) 相比 AlphaFold 2 实现了核心进化：

• 全原子扩散：抛弃了复杂的 IPA 架构，直接在 3D 原子坐标空间进行去噪，更适合处理“从混沌到秩序”的问题。
• 跨模态统一：将蛋白质、DNA、RNA 及小分子配体全部视为 Token，不仅能预测单一结构，更能预测生命分子间的相互作用。
• 从预测到设计：结合 RFdiffusion，科学家可以实现“功能优先”的逆向设计——设定所需功能，让 AI 反向推导出结构。

扩散模型在科学中的应用方向

扩散模型正在从单纯的“生成数据”迈向“理解世界”。它不仅是效率工具，更是连接物理规律与数字智能的桥梁，让 AI 具备了在分子尺度上精准“造物”的能力。

---

物理信息神经网络（PINN）

从数据拟合到物理约束

传统深度学习依赖海量数据，但在科研场景中，数据往往稀缺且昂贵。PINN（Physics-Informed Neural Network）的核心思想是：将已知的物理方程（如偏微分方程 PDE、守恒律等）作为约束条件，加入神经网络的损失函数中。这样，即使数据稀疏，物理定律本身也能提供强大的“先验知识”，指导模型训练。

通过损失函数引入物理方程

PINN 的秘诀在于其巧妙的损失函数（Loss Function）设计。以一个简单的传热方程为例，其操作流程如下：

1. 定义网络：输入是坐标 (x, y, z, t)，输出是物理量 u（如温度）。
2. 构建 Loss 函数：
   • PDE Loss：在区域内随机取点，计算方程左右两边的残差（即方程左边减去右边）。
   • Boundary Loss：在边界上取点，确保边界条件被满足。
   • Total Loss = PDE Loss + Boundary Loss
3. 自动微分：利用自动微分技术（Autograd），轻松计算神经网络输出对输入的导数，从而得到方程中的各项。
4. 优化求解：使用标准优化器（如 Adam）进行训练，最终得到的神经网络就是方程的解。

硬约束与训练改进方法

除了将物理方程作为损失函数（软约束），陆路老师还分享了更高级的“硬约束”（Hard Constraints）技巧，通过设计网络架构使其天生满足物理属性。

1. 硬约束边界条件：设计一个“包装函数” u(x) = g(x) + l(x) × NN(x)，其中 g(x) 满足边界条件，l(x) 在边界处为零。这样无论 NN(x) 输出什么，边界条件都自动成立。
2. 自适应权重平衡：动态计算各 Loss 项的梯度范数，自动调整权重系数，解决多 Loss 项不平衡的问题。
3. 梯度增强 PINN：将 PDE 的各阶导数也加入 Loss，提供额外的监督信息，可显著降低误差。
4. 自适应采样 (RAR)：在 PDE 残差大的区域自动加密采样点，类似“错题本”策略，以最少的算力实现全局高精度。
5. 区域分解：将复杂几何区域切分为子区域并行求解，加速收敛。

反问题与高维问题

相比传统方法，PINN 在特定场景下展现出独特优势：

1. 反问题求解：当物理方程中存在未知参数（如热导率 k）时，传统方法求解困难。PINN 可将未知参数也作为可学习变量，结合极少的测量数据，在拟合解的同时精准反推出未知参数。
2. 高维问题：传统网格方法在高维问题中会遭遇“维度诅咒”，计算量呈指数爆炸。PINN 脱离网格限制，在 100~200 维的复杂偏微分方程上依然高效，成为填补高维物理求解空白的利器。

PINN 实操案例

陆路老师现场演示了使用其团队开发的 DeepXDE 库求解一维 Poisson 方程。

• 核心代码：仅需定义几何、PDE、边界条件，然后构建模型并训练。
• 结果：在普通 CPU 上，仅用不到 20 行核心代码和 10 秒时间，就跑通了高精度的偏微分方程求解。

DeepXDE 工具

DeepXDE 是目前最流行的 PINN 实现工具，具有以下特点：

• 多后端支持：兼容 TensorFlow、PyTorch、JAX、PaddlePaddle。
• 丰富几何：支持任意复杂几何形状的布尔运算。
• 完善文档：官网提供详细的 API 和大量示例。

PINN 的应用意义

PINN 正在让 AI 从“数据黑盒”进化为“物理白盒”——不仅拟合数据，更理解背后的自然法则。从流体力学到量子物理，PINN 正在打开一扇新的大门：让 AI 在物理定律的约束下，以更少的实验数据，实现更可靠的科学预测。

---

预测、压缩与科学建模

预测与压缩的联系

• 自回归模型：好比一台“接龙机器”，通过学习序列数据中的模式来预测未来。
• 科学预测的挑战：与语言不同，物理世界的数据（如图像、流场）缺乏天然的离散表示和顺序。因此，如何让 AI 预言物理世界的“下一秒”，关键在于解决两个问题：
  1. Tokenization：如何将连续的物理数据（如一张图片）切分成 AI 能理解的“token”？
  2. Order：应该按照什么顺序来预测这些 token？

表征与预测架构的演进

自回归模型在视觉领域的演进，本质上是建模方式从局部走向全局的过程：

1. PixelCNN (2016)：将二维图像强行展开为一维序列，按光栅顺序逐像素建模。这种方法效率低，且容易“只见树木不见森林”。
2. VAR (2024)：引入“尺度自回归”，在量化表征空间中进行由粗到细的层级生成，实现了从全局结构到局部细节的递进建模。
3. MAR (2024)：通过随机 mask 顺序与扩散模型多步降噪机制，摆脱了量化约束，使模型能以 patch 为单位进行更灵活的全局建模。

通过未来状态约束预测

在科学智能领域，直接预测未来会导致误差累积，最终模型失效。姜若曦团队借鉴数值方法中的“后向欧拉法”，设计了一套多层级隐式自回归模型来解决此问题。

• 核心思想：在预测精细的未来状态时，先给模型一个关于未来的粗粒度预判。这个“未来的粗粒度影子”为精细预测提供了稳定的锚点。
• 生活类比：预测明天的精确气温（精细变量）时，先告诉模型当前是夏季（粗粒度信息），这个季节信息就能为预测提供一个稳定的基础。
• 实验效果：
  • 长期稳定性：在 2 万步的演化预测中，模型稳定率达到 95%，而传统方法几乎完全失效。
  • 短期精度：均方误差（MSE）较基线下降约 50%。
  • 计算效率：参数量增加不足 10%，在单张 A40 显卡上完成 1000 步预测仅需约 45 秒。

压缩在建模中的作用

姜若曦分享了团队在 CVPR 2026 的观察：压缩不仅发生在输入空间，也应体现在模型内部。

• 权重衰减技巧 (Decay Identity Shortcut)：通过在训练中对模型的残差连接施加衰减，模型会自动学习动态压缩，过滤掉冗余信息，从而强化高层语义表达。
• 毕加索的启示：“没有抽象艺术，你必须始终从某些事物开始，随后你可以去除现实的痕迹。” AI 的表征也是如此，只有在深刻理解的基础上实现压缩，才能抓住关键。

流体预测案例

在直播实操环节，姜若曦现场演示了湍流预测的 Pipeline。

• 结果：即便预测到 1000 步，AI 生成的涡旋形状依然清晰、稳定，没有出现任何视觉漂移。
• 关键：在科学智能中，引入物理规律（无论是软约束还是硬约束）始终是提升模型稳定性的关键。
• 代码开源：相关代码和 Notebook 已在 GitHub 开源。

---

机器学习势函数与分子模拟

机器学习在分子模拟中的作用

讲座的核心观点是，机器学习势函数是继 20 世纪量子化学方法兴起后的“第二次范式革命”。

• 传统困境：分子模拟长期面临“精度”与“规模”不可兼得的权衡。量子化学方法（如 DFT）精度高但计算成本随体系大小呈三次方增长，只能处理小体系；经典力场虽快但精度粗糙。
• MLFF 破局：其核心思想是用神经网络拟合 DFT 的计算结果，将昂贵的量子计算压缩成廉价的推理，从而在保持 DFT 级精度的同时，实现大规模、长时间的分子动力学模拟。

势函数的三类对称性约束

让 AI 学习物理规律，首要任务是让模型内嵌物理世界的对称性，否则模型会浪费大量数据去学习“平移后还是同一个分子”这类常识。

1. 平移不变性：分子在空间中整体移动，其能量不变。
2. 旋转不变性：分子在空间中整体旋转，其能量不变。
3. 置换不变性：交换两个相同原子（如两个氢原子）的位置，其能量不变。

势函数的发展史，就是一部将对称性更好地嵌入神经网络架构的演化史：

• Behler-Parrinello (2007)：最早使用手工设计的对称函数（Symmetry Function）来描述原子环境，但参数需人为设定，通用性差。
• SchNet：使用连续卷积让神经网络自动从原子坐标和距离中学习环境表征，告别了手工描述符。
• DeePMD：通过 embedding net 自动描述原子环境，同时严格保留了三大对称性，在能量预测上表现优异。

从不变模型到等变模型

早期的模型主要关注标量（能量）的不变性，但物理学不仅关心能量，还关心力（能量的梯度，是向量）。

• 等变性 (Equivariance)：力是向量，当分子旋转时，力向量也必须随之旋转。等变模型将这种变换规律直接写入网络结构，因此在预测力和张量性质时更自然、更高效。
• NequIP：早期最具代表性的 E(3)-等变模型，它明确告诉模型“力会随旋转而变化”，在同等数据量下，其力的预测误差下降更快，数据效率显著高于 DeePMD。
• MACE：关键创新是引入高阶消息传递，能直接捕捉复杂的多体几何关系，无需堆叠过多网络层数，在精度、速度和并行性上取得了良好平衡。其 MACE-MP-0 等版本开始构建通用势函数，走向“预训练+迁移”范式。
• DPA 系列：国内的代表性工作。DPA-1 通过预训练发现元素相似性；DPA-2 用“预训练+微调”提升效率；DPA-3 强化高阶几何关系建模，表现已能与 MACE 系列正面竞争。
• Meta UMA：2025 年发布，试图将分子、材料、催化反应整合到同一个基座模型中，通过任务条件激活不同参数。这是 MLFF 走向通用基座模型的标志性尝试，但因合规原因对国内禁用。