# AI for science介绍 AI for science的一些基本概念和应用

### AI for Science 与科学表征

#### AI for Science 与 Science for AI
AI4S 并非单向的技术赋能，而是一个双引擎驱动的循环：
*   **AI for Science**：利用 AI 强大的计算能力，解决蛋白质折叠、新材料发现等复杂的科学难题。
*   **Science for AI**：借鉴物理学的第一性原理（如能量守恒、对称性）来重构 AI 模型架构，使其更稳健、更具可解释性。
AlphaFold 3 是这一理念的完美体现，它受热力学启发，引入扩散模型架构，实现了从预测单一蛋白质结构到预测所有生命分子相互作用的跨越。

#### 科学表征的作用
在 AI4S 的通用任务流程中，存在三大挑战：
1.  **表征问题**：如何将 3D 坐标、分子拓扑图等物理世界信息“翻译”成 AI 能理解的语言。
2.  **建模问题**：如何通过函数逼近来寻找性质（如能量、硬度）的映射关系。
3.  **约束问题**：如何将物理定律“编码”进模型。

方榯楷强调，在科学场景中，**表征决定了模型的上限**。如果将分子的 3D 结构粗暴地拍平为 2D 图像处理，无论模型多强大，都会因丢失关键结构信息而导致预测失败。因此，表征是 AI 理解物理世界的“第一性原理”。

#### 科学表征的四项要求
一个优秀的科学表征应具备以下四个特性：
1.  **距离保持**：在现实世界中性质相近的物体，映射到隐空间后，其向量距离也应相近。
2.  **连续性**：隐空间应该是平滑的。在隐空间中缓慢移动向量坐标，对应的现实事物也应产生连续、自然的变化，而非突兀的“闪现”。
3.  **可插值与可操作性**：对隐空间中两个向量进行插值，其结果应对应现实中介于两者之间的新事物。这为 AI 预测和发现新材料提供了可能。
4.  **不变性**：表征必须尊重物理世界的对称性。例如，一个分子无论怎样旋转或平移，其本质不变，AI 也应能正确识别。

#### 表征技术的演进
获取高质量表征的技术路径经历了从人工驱动到数据驱动的进化：
*   **有监督学习**：经典范式，但依赖昂贵的实验室标注数据，且泛化能力有限。
*   **自监督学习 (SSL)**：让模型从海量无标注数据中学习，具体方法包括：
    *   **掩码自编码器**：像“完形填空”一样，通过遮盖部分数据让模型进行预测。
    *   **变分自编码器 (VAE)**：实现从确定性映射到连续概率分布的跃迁。
    *   **自回归模型**：根据当前状态预测下一秒的物理场状态。
    *   **扩散模型**：从纯噪声中逐步还原出真实的物理结构。

#### 流体表征案例：16 维隐空间
讲座通过一个流体力学中的“卡门涡街”现象进行了实操演示：
*   **任务**：将 64×128 的高维流场图像，压缩进一个仅 16 维的隐空间向量中，并尝试复原。
*   **结果**：
    *   **精准重构**：AI 能够几乎完美地重构出测试集中的流场图像，均方误差（MSE）低至 10⁻⁴。
    *   **智能修复**：即使原始图像有大块缺失或大量噪声，AI 也能通过 16 维隐空间“脑补”出完整、干净的物理图像。
    *   **性能对比**：深度表征学习在此任务上对传统统计方法（如 PCA）形成了降维打击。

#### 表征学习与逆向设计
表征学习是 AI4S 的第一性原理，它将复杂的自然规律浓缩为可计算的向量。但这仅仅是起点，通过将表征学习与生成式模型（如 VAE 或扩散模型）结合，未来可以实现“逆向设计”——即在隐空间中设定性能需求（如高强度、特定带隙），让 AI 直接生成满足条件的全新物理结构。

---

### 扩散模型与科学生成

#### 扩散模型的基本原理
扩散模型的灵感源于物理学中的非平衡热力学，其过程可被形象地理解：
*   **前向加噪 (熵增)**：如同墨水滴入清水，有序的信息随时间流逝而丢失，最终变为均匀无序的噪声。
*   **反向去噪 (熵减)**：神经网络学习如何“逆转时间”，将扩散的分子重新聚集成有序的“墨滴”。

在数学层面，模型依靠**得分函数 (Score Function)** 作为“登山指南”，指引 AI 从高维概率分布的“山脚”（噪声）爬向“山顶”（真实数据）。为避免陷入局部最优，讲座引入了**朗之万动力学 (Langevin dynamics)**，通过随机抖动帮助模型寻找全局最优解。

#### 潜空间扩散与 Stable Diffusion
2022 年诞生的 Stable Diffusion 是图像生成领域的里程碑，其核心贡献在于将计算从像素空间转移到了**潜空间 (Latent Space)**。
*   **高效压缩**：借助 VAE 编码器，将 512x512 的像素图像压缩为 64x64 的隐向量，剔除冗余信息，保留核心语义。
*   **普及应用**：这一飞跃使得顶尖模型不再依赖庞大的计算集群，普通显卡也能实现高质量生成。
*   **核心架构**：预测引擎 UNet 通过“跳跃连接”确保细节不丢失，并配合**交叉注意力机制 (Cross Attention)**，让 AI 能精准理解人类提示词 (Prompt)。


#### 分子结构预测案例：AlphaFold 3
2024 年发布的 AlphaFold 3 (AF3) 相比 AlphaFold 2 实现了核心进化：
*   **全原子扩散**：抛弃了复杂的 IPA 架构，直接在 3D 原子坐标空间进行去噪，更适合处理“从混沌到秩序”的问题。
*   **跨模态统一**：将蛋白质、DNA、RNA 及小分子配体全部视为 Token，不仅能预测单一结构，更能预测生命分子间的相互作用。
*   **从预测到设计**：结合 RFdiffusion，科学家可以实现“功能优先”的逆向设计——设定所需功能，让 AI 反向推导出结构。


#### 扩散模型在科学中的应用方向
扩散模型正在从单纯的“生成数据”迈向“理解世界”。它不仅是效率工具，更是连接物理规律与数字智能的桥梁，让 AI 具备了在分子尺度上精准“造物”的能力。

---

### 物理信息神经网络（PINN）

#### 从数据拟合到物理约束
传统深度学习依赖海量数据，但在科研场景中，数据往往稀缺且昂贵。PINN（Physics-Informed Neural Network）的核心思想是：将已知的物理方程（如偏微分方程 PDE、守恒律等）作为约束条件，加入神经网络的损失函数中。这样，即使数据稀疏，物理定律本身也能提供强大的“先验知识”，指导模型训练。

#### 通过损失函数引入物理方程
PINN 的秘诀在于其巧妙的损失函数（Loss Function）设计。以一个简单的传热方程为例，其操作流程如下：
1.  **定义网络**：输入是坐标 (x, y, z, t)，输出是物理量 u（如温度）。
2.  **构建 Loss 函数**：
    *   **PDE Loss**：在区域内随机取点，计算方程左右两边的残差（即方程左边减去右边）。
    *   **Boundary Loss**：在边界上取点，确保边界条件被满足。
    *   **Total Loss = PDE Loss + Boundary Loss**
3.  **自动微分**：利用自动微分技术（Autograd），轻松计算神经网络输出对输入的导数，从而得到方程中的各项。
4.  **优化求解**：使用标准优化器（如 Adam）进行训练，最终得到的神经网络就是方程的解。

#### 硬约束与训练改进方法
除了将物理方程作为损失函数（软约束），陆路老师还分享了更高级的“硬约束”（Hard Constraints）技巧，通过设计网络架构使其天生满足物理属性。
1.  **硬约束边界条件**：设计一个“包装函数” `u(x) = g(x) + l(x) × NN(x)`，其中 `g(x)` 满足边界条件，`l(x)` 在边界处为零。这样无论 `NN(x)` 输出什么，边界条件都自动成立。
2.  **自适应权重平衡**：动态计算各 Loss 项的梯度范数，自动调整权重系数，解决多 Loss 项不平衡的问题。
3.  **梯度增强 PINN**：将 PDE 的各阶导数也加入 Loss，提供额外的监督信息，可显著降低误差。
4.  **自适应采样 (RAR)**：在 PDE 残差大的区域自动加密采样点，类似“错题本”策略，以最少的算力实现全局高精度。
5.  **区域分解**：将复杂几何区域切分为子区域并行求解，加速收敛。

#### 反问题与高维问题
相比传统方法，PINN 在特定场景下展现出独特优势：
1.  **反问题求解**：当物理方程中存在未知参数（如热导率 k）时，传统方法求解困难。PINN 可将未知参数也作为可学习变量，结合极少的测量数据，在拟合解的同时精准反推出未知参数。
2.  **高维问题**：传统网格方法在高维问题中会遭遇“维度诅咒”，计算量呈指数爆炸。PINN 脱离网格限制，在 100~200 维的复杂偏微分方程上依然高效，成为填补高维物理求解空白的利器。

#### PINN 实操案例
陆路老师现场演示了使用其团队开发的 **DeepXDE** 库求解一维 Poisson 方程。
*   **核心代码**：仅需定义几何、PDE、边界条件，然后构建模型并训练。
*   **结果**：在普通 CPU 上，仅用不到 20 行核心代码和 10 秒时间，就跑通了高精度的偏微分方程求解。

#### DeepXDE 工具
DeepXDE 是目前最流行的 PINN 实现工具，具有以下特点：
*   **多后端支持**：兼容 TensorFlow、PyTorch、JAX、PaddlePaddle。
*   **丰富几何**：支持任意复杂几何形状的布尔运算。
*   **完善文档**：官网提供详细的 API 和大量示例。

#### PINN 的应用意义
PINN 正在让 AI 从“数据黑盒”进化为“物理白盒”——不仅拟合数据，更理解背后的自然法则。从流体力学到量子物理，PINN 正在打开一扇新的大门：让 AI 在物理定律的约束下，以更少的实验数据，实现更可靠的科学预测。

---

### 预测、压缩与科学建模

#### 预测与压缩的联系
*   **自回归模型**：好比一台“接龙机器”，通过学习序列数据中的模式来预测未来。
*   **科学预测的挑战**：与语言不同，物理世界的数据（如图像、流场）缺乏天然的离散表示和顺序。因此，如何让 AI 预言物理世界的“下一秒”，关键在于解决两个问题：
    1.  **Tokenization**：如何将连续的物理数据（如一张图片）切分成 AI 能理解的“token”？
    2.  **Order**：应该按照什么顺序来预测这些 token？

#### 表征与预测架构的演进
自回归模型在视觉领域的演进，本质上是建模方式从局部走向全局的过程：
1.  **PixelCNN (2016)**：将二维图像强行展开为一维序列，按光栅顺序逐像素建模。这种方法效率低，且容易“只见树木不见森林”。
2.  **VAR (2024)**：引入“尺度自回归”，在量化表征空间中进行由粗到细的层级生成，实现了从全局结构到局部细节的递进建模。
3.  **MAR (2024)**：通过随机 mask 顺序与扩散模型多步降噪机制，摆脱了量化约束，使模型能以 patch 为单位进行更灵活的全局建模。

#### 通过未来状态约束预测
在科学智能领域，直接预测未来会导致误差累积，最终模型失效。姜若曦团队借鉴数值方法中的“后向欧拉法”，设计了一套**多层级隐式自回归模型**来解决此问题。
*   **核心思想**：在预测精细的未来状态时，先给模型一个关于未来的粗粒度预判。这个“未来的粗粒度影子”为精细预测提供了稳定的锚点。
*   **生活类比**：预测明天的精确气温（精细变量）时，先告诉模型当前是夏季（粗粒度信息），这个季节信息就能为预测提供一个稳定的基础。
*   **实验效果**：
    *   **长期稳定性**：在 2 万步的演化预测中，模型稳定率达到 95%，而传统方法几乎完全失效。
    *   **短期精度**：均方误差（MSE）较基线下降约 50%。
    *   **计算效率**：参数量增加不足 10%，在单张 A40 显卡上完成 1000 步预测仅需约 45 秒。

#### 压缩在建模中的作用
姜若曦分享了团队在 CVPR 2026 的观察：压缩不仅发生在输入空间，也应体现在模型内部。
*   **权重衰减技巧 (Decay Identity Shortcut)**：通过在训练中对模型的残差连接施加衰减，模型会自动学习动态压缩，过滤掉冗余信息，从而强化高层语义表达。
*   **毕加索的启示**：“没有抽象艺术，你必须始终从某些事物开始，随后你可以去除现实的痕迹。” AI 的表征也是如此，只有在深刻理解的基础上实现压缩，才能抓住关键。

#### 流体预测案例
在直播实操环节，姜若曦现场演示了湍流预测的 Pipeline。
*   **结果**：即便预测到 1000 步，AI 生成的涡旋形状依然清晰、稳定，没有出现任何视觉漂移。
*   **关键**：在科学智能中，引入物理规律（无论是软约束还是硬约束）始终是提升模型稳定性的关键。
*   **代码开源**：相关代码和 Notebook 已在 GitHub 开源。

---

### 机器学习势函数与分子模拟

#### 机器学习在分子模拟中的作用
讲座的核心观点是，机器学习势函数是继 20 世纪量子化学方法兴起后的“第二次范式革命”。
*   **传统困境**：分子模拟长期面临“精度”与“规模”不可兼得的权衡。量子化学方法（如 DFT）精度高但计算成本随体系大小呈三次方增长，只能处理小体系；经典力场虽快但精度粗糙。
*   **MLFF 破局**：其核心思想是用神经网络拟合 DFT 的计算结果，将昂贵的量子计算压缩成廉价的推理，从而在保持 DFT 级精度的同时，实现大规模、长时间的分子动力学模拟。

#### 势函数的三类对称性约束
让 AI 学习物理规律，首要任务是让模型内嵌物理世界的对称性，否则模型会浪费大量数据去学习“平移后还是同一个分子”这类常识。
1.  **平移不变性**：分子在空间中整体移动，其能量不变。
2.  **旋转不变性**：分子在空间中整体旋转，其能量不变。
3.  **置换不变性**：交换两个相同原子（如两个氢原子）的位置，其能量不变。

势函数的发展史，就是一部将对称性更好地嵌入神经网络架构的演化史：
*   **Behler-Parrinello (2007)**：最早使用手工设计的对称函数（Symmetry Function）来描述原子环境，但参数需人为设定，通用性差。
*   **SchNet**：使用连续卷积让神经网络自动从原子坐标和距离中学习环境表征，告别了手工描述符。
*   **DeePMD**：通过 embedding net 自动描述原子环境，同时严格保留了三大对称性，在能量预测上表现优异。

#### 从不变模型到等变模型
早期的模型主要关注标量（能量）的不变性，但物理学不仅关心能量，还关心力（能量的梯度，是向量）。
*   **等变性 (Equivariance)**：力是向量，当分子旋转时，力向量也必须随之旋转。等变模型将这种变换规律直接写入网络结构，因此在预测力和张量性质时更自然、更高效。
*   **NequIP**：早期最具代表性的 E(3)-等变模型，它明确告诉模型“力会随旋转而变化”，在同等数据量下，其力的预测误差下降更快，数据效率显著高于 DeePMD。
*   **MACE**：关键创新是引入高阶消息传递，能直接捕捉复杂的多体几何关系，无需堆叠过多网络层数，在精度、速度和并行性上取得了良好平衡。其 MACE-MP-0 等版本开始构建通用势函数，走向“预训练+迁移”范式。
*   **DPA 系列**：国内的代表性工作。DPA-1 通过预训练发现元素相似性；DPA-2 用“预训练+微调”提升效率；DPA-3 强化高阶几何关系建模，表现已能与 MACE 系列正面竞争。
*   **Meta UMA**：2025 年发布，试图将分子、材料、催化反应整合到同一个基座模型中，通过任务条件激活不同参数。这是 MLFF 走向通用基座模型的标志性尝试，但因合规原因对国内禁用。