多保真度迁移学习可靠性分析：用少量高保真样本算准失效概率

简介：面向结构可靠性分析的研究与工程开发者，这份项目源码提供了基于多保真度迁移学习的主动学习可靠性分析实现，以解决隐式、强非线性、高维性能函数带来的计算负担。压缩包共3个文件，主要包含Python源码、txt依赖说明与.inscode环境配置，整体仅5KB，轻量易用，便于快速在本地或在线运行。目前已有81人学习下载。源码覆盖共享底层特征提取器与独立高层输出头的双分支架构、先预训练低保真度数据再微调高保真度数据的训练策略，以及基于预测不确定性的加权集成主动学习函数，同时包含概率变量与区间变量混合不确定性下的Dropout区间估计模块。据作者实验，相同高保真度样本量下失效概率估计误差降低40%以上，训练速度提升3倍，适合需要复现或扩展该方案的开发人员参考。

1. 多保真度迁移学习可靠性分析：几十次高保真仿真，也能算出可信的失效概率

做可靠性分析遇到的最痛一件事，不是极限状态方程难推导，而是高保真仿真太贵：一次精细有限元或三维CFD动辄数小时，而失效概率常常是千分之一甚至十万分之一量级的小概率事件，直接蒙特卡洛要跑上百万次。多保真度迁移学习可靠性分析这个方向，就是先用一个便宜但粗糙的低保真模型（解析公式、粗网格、等效简化）大量出样本，再拿少量高保真样本做迁移校正，把低保真模型里的先验知识搬到高保真预测中，最后用校正后的代理模型去算失效概率与可靠度指标。这篇笔记适合正在做结构可靠性、不确定性量化的工程师，也适合给昂贵的有限元模型配代理模型、天天跟采样成本较劲的算法岗读者。下面从原理到可复现的最小算例，把这条链路完整拆开。

2. 先搞清三件事：失效概率怎么算、保真度为什么有高低、迁移学习解决哪一环

2.1 可靠性分析的本质：在随机变量的联合分布里，找到那个失效小区域

可靠性分析要回答的问题很直白：给定一组随机输入 x=(x1,x2,…,xd)，其联合概率密度为 f_X(x)，结构是否失效由一个极限状态函数 g(x) 判断——g(x)≤0 视为失效，g(x)>0 视为安全。失效概率写成 P_f = ∫_{g(x)≤0} f_X(x) dx，本质上是一个在高维分布尾部做积分的问题。

最朴素的做法是蒙特卡洛：从 f_X 里抽 N 个样本，数一数 g≤0 的比例。这个估计量的变异系数约为 1/√(N·P_f)。P_f 如果是 10⁻³，想要相对误差控制在 10% 以内，N 至少要在 10⁵ 量级；P_f 到 10⁻⁵，N 就到 10⁷ 量级了。这也是为什么说可靠性分析本质上是一个“样本饥饿”的统计任务，而不是简单的解方程任务。

工程里真正处理这个问题时，不会把有限元模型原样扔进蒙特卡洛。常见做法是先构建一个代理模型（响应面、克里金、神经网络），用代理模型去执行百万次抽样。代理模型的质量直接决定 P_f 估得准不准，于是问题就变成了：怎样在极小的高保真样本量下，训练出一个在失效边界附近足够准确的代理模型。

注意我特意说了“失效边界附近”。因为可靠性分析关心的不是整个输入空间都准，而是 g(x)=0 这条曲面附近的局部精度，这一点后面调参和避坑都会反复用到。

2.2 多保真度的价值：低保真模型不够准，但它覆盖了整个输入空间的趋势

高保真仿真与低保真仿真的关系，可以理解成同一物理问题的两条精度路径。高保真路径是用精细网格、完整本构、全耦合求解，精度高但单次调用成本极高；低保真路径是用简化公式、粗网格、等效截面或降阶模型，单次调用成本低一到两个数量级，代价是忽略了部分物理细节，结果带有系统偏差。

很多人一听到“低保真”，第一反应是“不准确的东西有什么用”。这正是多保真度思路的关键转折点：不准确不等于没有信息。低保真模型虽然在局部数值上不可靠，但它在整个输入空间上的趋势、敏感性、量级关系通常是对的，而这些正是代理模型最稀缺的先验。换句话说，低保真模型可以当成一个“免费的全局骨架”，高保真样本则用来修正骨架上的局部偏差。

这个思路和“只用高保真数据训代理”的本质区别在于样本利用效率。十几个高保真样本训练克里金或神经网络，往往连各向异性都学不出来；而同样的十几个样本，叠加在低保真模型的骨架上，却可以把修正模型的容量集中到真正有偏差的区域。工程上最常见的配置是“低保真数据量大、高保真数据量小”的两层结构，这也正是这套源码的默认假设。

2.3 迁移学习在这一环的落点：直推式迁移学习恰好匹配低保真到高保真的场景

迁移学习按场景分成几类：归纳式迁移、直推式迁移、无监督迁移。多保真度建模属于典型的直推式迁移学习——源域（低保真）和目标域（高保真）共享同一输入空间和相近的输入分布，但输出函数不同；目标域标签（高保真响应）数量很少，恰恰是直推式迁移最擅长的“同空间、少标签”场景。

具体到实现，最常见的做法是加性残差迁移：先在高保真数据的每个样本点上计算低保真预测与高保真真值之差，得到残差 r = y_HF − ŷ_LF；再用一个回归模型拟合残差；最终的预测是 ŷ_MF(x) = ŷ_LF(x) + r̂(x)。低保真代理承担全局趋势，残差模型只学习偏差，两个模型的分工非常干净。

也可以采用乘法校正、空间映射等变体，后文会讨论什么时候换形式。但在第一次跑通时，加性残差是最不容易出问题的选择，原因在于它把“主趋势”和“偏差”解耦了，即使残差模型训练得不太好，预测也会自然回退到低保真基线上，这种回退特性让它在工程上很抗折腾。

3. 最小复现算例：用一套两变量可靠性问题跑通多保真度迁移学习全流程

3.1 算例设计：为什么选两变量，极限状态函数怎么定

这里的算例沿用结构可靠性里常见的“抗力-荷载效应”形式。x1 代表构件抗力，服从 N(10, 0.8)；x2 代表荷载效应，服从 N(6, 1.5)。低保真极限状态函数取线性弹性近似：

g_lf(x) = x1 − x2

高保真模型在低保真基础上增加一个依赖荷载的非线性修正项：

g_hf(x) = x1 − x2 − 0.8·sin(1.5·(x2 − 6.0))

这个修正项的量级在荷载尾部被明显放大，直接改变失效边界走向，让低保真模型的偏差不可忽略。选两变量是为了让失效边界 g(x)=0 能在平面上画出来，并且能快速算出蒙特卡洛参考解。换成真实工程时，主要修改集中在 g_hf 和 g_lf 两个函数以及随机变量分布参数，代码结构不用大动。

3.2 步骤一：生成低保真与高保真训练数据

import numpy as np from scipy.stats import qmc, norm rng = np.random.default_rng(42) mu = np.array([10.0, 6.0]) std = np.array([0.8, 1.5]) def g_hf(x): x1, x2 = x[..., 0], x[..., 1] # 高保真极限状态：包含荷载效应的非线性修正项 return x1 - x2 - 0.8 * np.sin(1.5 * (x2 - 6.0)) def g_lf(x): x1, x2 = x[..., 0], x[..., 1] # 低保真极限状态：线性弹性近似，不考虑修正项 return x1 - x2 def lhs_normal(mu, std, n, seed=0): # 拉丁超立方采样，再把均匀分位数映射成正态分布 sampler = qmc.LatinHypercube(d=2, seed=seed) u = sampler.random(n) return mu + std * norm.ppf(u) n_lf = 300 n_hf = 15 X_lf = lhs_normal(mu, std, n_lf, seed=0) X_hf = lhs_normal(mu, std, n_hf, seed=1) y_lf = g_lf(X_lf) y_hf = g_hf(X_hf)

逻辑说明：低保真样本 300 个，高保真样本 15 个，比例 20:1，是可靠性代理建模里比较常见的初始配置。为什么用拉丁超立方而不是均匀随机数？因为均匀随机数容易在某个局部扎堆，LHS 能保证每个维度上都有相对均匀的边缘覆盖，低保真数据便宜，值得用更好的采样方式获得更稳定的全局趋势。norm.ppf 的作用是把拉丁超立方产生的 [0,1] 均匀分位数映射到标准正态，再乘标准差加均值，得到目标分布样本。

3.3 步骤二：训练低保真代理并计算残差

from sklearn.gaussian_process import GaussianProcessRegressor from sklearn.gaussian_process.kernels import ConstantKernel, RBF, WhiteKernel # 低保真代理：负责全局趋势 kernel_lf = ConstantKernel(1.0) * RBF( length_scale=[1.0, 1.0], length_scale_bounds=(1e-2, 1e2) ) + WhiteKernel(0.05) gp_lf = GaussianProcessRegressor( kernel=kernel_lf, alpha=1e-8, normalize_y=True ) gp_lf.fit(X_lf, y_lf) # 在高保真样本点上计算残差：真实值 - 低保真预测 y_residual = y_hf - gp_lf.predict(X_hf) # 残差代理：只学习低保真与高保真之间的偏差 kernel_res = ConstantKernel(0.1) * RBF( length_scale=[1.5, 1.5], length_scale_bounds=(1e-2, 1e1) ) + WhiteKernel(0.01) gp_res = GaussianProcessRegressor( kernel=kernel_res, alpha=1e-8, normalize_y=True ) gp_res.fit(X_hf, y_residual) # 最终多保真预测器：低保真基座 + 残差校正 def g_mf(x): return gp_lf.predict(x) + gp_res.predict(x)

参数说明：ConstantKernel 负责拟合输出幅值，RBF 的 length_scale 控制每个维度上的相关性衰减速度，WhiteKernel 负责吸收数据噪声。length_scale_bounds 给优化器一个搜索区间，不要设成固定值，否则高保真样本点分布一旦变化，内核超参数就失去自适应能力。alpha=1e-8 只是保证数值分解稳定性的微扰项，不要把它当噪声参数用，噪声由 WhiteKernel 承担。normalize_y=True 在残差建模时尤其重要，因为残差通常有正有负、幅值远小于原始极限状态函数，标准化后内核优化更平稳。

3.4 步骤三：用蒙特卡洛求失效概率并对比基准

n_mc = 2_000_000 X_mc = rng.normal(mu, std, size=(n_mc, 2)) g_true_mc = g_hf(X_mc) # 真实模型参考解 g_lf_mc = g_lf(X_mc) # 只看低保真模型 g_mf_mc = g_mf(X_mc) # 多保真度迁移后的代理 pf_truth = np.mean(g_true_mc <= 0.0) pf_lf_only = np.mean(g_lf_mc <= 0.0) pf_mf = np.mean(g_mf_mc <= 0.0) print(f"真实模型MC: {pf_truth:.5f}") print(f"低保真MC: {pf_lf_only:.5f}") print(f"多保真MC: {pf_mf:.5f}")

逻辑说明：这里用同一个 200 万样本池直接评估三种模型，避免因抽样波动造成对比不公平。真实模型 MC 的结果是理论参考；低保真 MC 结果代表“省钱但粗糙”的下限；多保真 MC 结果代表迁移学习后的实际输出。样本量 200 万对千分之一量级的失效概率来说，相对误差能控制在 5% 以内，足够看出三种方法的差别。

为了同时对照“只用高保真点训代理”的常见做法，再加一段：

kernel_hf = ConstantKernel(1.0) * RBF( length_scale=[1.0, 1.0] ) + WhiteKernel(0.05) gp_hf_only = GaussianProcessRegressor( kernel=kernel_hf, alpha=1e-8, normalize_y=True ) gp_hf_only.fit(X_hf, y_hf) pf_hf_only = np.mean(gp_hf_only.predict(X_mc) <= 0.0)

方法	高保真调用次数	失效概率估计	说明
真实模型直接MC	2,000,000	约 1.2%	基准参考，工程里不可能这么干
低保真模型MC	0	约 0.9%	低估了非线性修正项的影响
仅用高保真点训GP	15	随种子波动明显	尾部区域往往被学歪
多保真度迁移	15	接近参考值	波动远小于仅用高保真点

表里数字我没有给到小数点后三位，因为不同机器、不同随机种子下内核优化路径不同，具体数值会有变化。你应该关注的是三种方法的相对行为：低保真偏差固定，仅高保真代理方差大，多保真度迁移在同样高保真样本量下同时压低了偏差和方差。

3.5 怎么判断这次跑通是否正常

跑完代码后先看两个数：pf_lf_only 是否明显偏离 pf_truth，pf_mf 是否落在两者之间且靠近 pf_truth。如果多保真结果比单独用高保真点训代理还差，大概率是残差代理的噪声核初始值给得太大，把残差信号当成噪声吸掉了；把 WhiteKernel 的初始值从 0.05 降到 0.01 再试。如果多保真结果和低保真几乎一样，说明残差代理完全没有学到东西，优先检查 X_hf 是否覆盖了真实偏差所在的尾部区域。

4. 换成真实工程问题时怎么调参数：保真度层次、迁移形式与采样布局

4.1 保真度层次怎么选：两层起步，三层只在低保真和真值差得太多时再加

多保真度的自然扩展是使用多个中间保真度，常见配置是三层：低、中、高。中保真模型相当于把低保真模型加强一个档次，比如从解析公式换成粗网格有限元，用它连接两个端点，给高保真残差任务一个更接近目标的起点。

我的建议是两层结构先跑通。两层结构里，残差模型面对的偏差单一，训练结果容易解释；一旦引入中保真层，需要分别校准两个阶段的残差模型，调参时间和不收敛风险都会成倍增加。只有当你发现低保真模型与真实模型之间的相对误差明显超过 30%，两层残差已经学不出稳定的修正规律时，才考虑在中间插入一个中保真层，把“低保真到中保真”和“中保真到高保真”两段偏差分别压缩到个位数百分比。

判断依据很简单：把低保真预测值作为横轴、高保真真值作为纵轴画散点图。如果散点分布在山坡形带状区域里，说明偏差结构复杂，靠单一残差模型硬拟合容易过拟合；如果散点明显集中在对角线附近，两层结构足够。工程里最常见的误用是为了追求“层次多显得专业”而强行上三层，结果每一层残差样本都少，误差层层累积，最后出来的失效概率还不如直接蒙特卡洛靠谱。

4.2 迁移形式怎么选：加性残差、乘法校正还是空间映射

加性残差是默认起点，但不代表唯一选择。有一种情况很典型：高保真真值约等于低保真预测的某个倍数，比如 y_HF ≈ 1.2·y_LF，这时残差的方差会随低保真预测值一起放大，加性模型很难拟合这类异方差结构。换成乘法校正更自然：y_MF(x) = ρ(x)·y_LF(x)，其中 ρ(x) 用一个高斯过程建模，训练时对每个高保真样本点计算 ρ = y_HF / y_LF，再对 ρ 做回归。

判断用加法还是乘法的技巧很简单：把高保真样本上的残差对低保真预测值画散点图。残差围绕 0 随机散布，就选加性；残差随低保真预测值近似线性放大，就选乘法。还有一种情况是输入空间错位，比如低保真模型和高保真模型用了不同的坐标系或材料参数定义，残差再怎么建模都对不齐，这时需要用空间映射先把低保真输入变换到高保真输入域，再做迁移。空间映射我在实际项目里只遇到过一次，入门阶段不用管它，但要知道它的存在，免得遇到怪问题时无从下手。

4.3 高保真样本放在哪里：空间填充打底，失效边界探索跟进

样本布局直接决定可靠性分析的局部精度。我见过不少失败案例，是把高保真样本均匀铺在变量均值附近，结果失效边界在尾部，代理模型在边界处完全没有信息，算出来的失效概率自然不可信。正确做法分两步走。

第一批点用拉丁超立方覆盖均值加减 2 到 3 倍标准差的区域，保证整个输入空间有骨架；第二批点用主动学习，按当前多保真代理的预测均值和方差去失效边界附近补点。可靠性分析里最常用的选点准则是 U 函数，U 值越小，说明该点离失效边界越近且代理不确定性越大：

def pick_next_by_u(X_cand, gp_lf_model, gp_res_model): # 计算多保真代理在候选点上的均值和标准差 mu_lf, std_lf = gp_lf_model.predict(X_cand, return_std=True) mu_res, std_res = gp_res_model.predict(X_cand, return_std=True) mu_total = mu_lf + mu_res # 保守估计：方差直接相加，再加一个数值稳定项 std_total = np.sqrt(std_lf**2 + std_res**2 + 1e-8) # U值越小，越可能是失效边界附近的高价值点 u = np.abs(mu_total) / std_total return X_cand[np.argmin(u)]

逻辑说明：U 函数的分子是极限状态函数预测值离 0 的距离，越小说明越接近失效边界；分母是代理标准差，越大说明模型在这个区域越没把握。选 U 最小的点去补做高保真仿真，比随机试点或只在边界试点效率高得多。

但要注意直接这么选容易让多个补点扎堆，因为第一个点补完后边界附近的点依然有较高不确定性。常见做法是先用 K-Means 把候选点聚成几簇，再从每个簇里选一个 U 值最小的点，保证一轮补多个点时彼此有空间间隔。这一步是工程可靠性的细节，作用比想象中大，能直接影响后续残差代理的稳定性。

5. 避坑记录：多保真度迁移做可靠性分析最容易翻车的五个地方

5.1 现象一：低保真模型趋势方向反了，迁移后代理在失效边界附近乱跳

现象：训练完的多保真代理在低保真主导的区域预测正常，但一到失效边界附近就出现异常的凸起或凹陷，蒙特卡洛抽样时混入大量假失效点。

原因：低保真和高保真模型在部分输入区域趋势方向相反，残差的物理含义就乱了。迁移学习的隐含前提是源域和目标域输出高度相关，趋势相反时这个前提不成立，残差模型只能强行拟合混乱信号。

解决：迁移前先做相关性检查。在两倍标准差范围内随机取几百个点，同时用低保真和高保真模型计算，画散点图并算 Spearman 相关系数。相关系数低于 0.6 就不该硬迁，先把低保真模型重新标定，或者只把低保真当采样工具，不贡献输出先验。这类问题在参数化模型里尤其常见，所谓“低保真”有时只是概念相近，物理机理已经变了。

5.2 现象二：交叉验证精度不错，失效概率算出来却是错的

现象：对多保真代理做五折交叉验证，R² 在 0.98 以上，看起来模型完美；一算失效概率，结果和真实参考差了三四倍。

原因：可靠性分析关心的是失效边界，而失效边界在变量分布的尾部，交叉验证是在整个输入空间上做评估，绝大部分样本落在高概率密度的中心区域，中心区域的精度掩盖了尾部完全没学好的事实。

解决：评估误差要用和失效相关的加权指标。在蒙特卡洛样本里筛出 g(x) 接近 0 的那一批点，单独计算这些点上的预测均方误差；或者直接比较失效概率值，而不是看全局 R²。中心区域 R² 高只代表骨架准，不代表尾部准，这个坑我踩过不止一次，现在只要发现 R² 和失效概率表现不一致，第一反应就是去检查边界附近的局部误差。

5.3 现象三：失效概率每次跑出来都不同，换个随机种子能差一个数量级

现象：同样的代码，只改随机种子，P_f 从 1e-2 跳到 1e-4，前后结果完全对不上，怎么调都像是玄学。

原因：两个问题叠加。一是蒙特卡洛样本量不够，P_f 在 1e-3 量级时抽样数量少于十万，估计量本身就在抖；二是高保真样本太少，高斯过程内核的优化结果对初始值和训练顺序敏感，每次训练出来的代理面都不一样。

解决：先算变异系数，1/√(N·P_f)，确认统计噪声已经压到目标精度以下。再检查代理预测方差，把多保真代理在失效边界附近的预测标准差打印出来，如果标准差和极限状态函数本身的量级相当，说明残差模型没收敛。把噪声核初始值调小、打开 normalize_y、用多组随机初始值优化内核后选似然最大的那组，通常能把种子敏感性压下去。

5.4 现象四：把高保真样本既当训练集又当验证集，出现假迁移

现象：训练结束后在训练用的高保真点上检查误差，结果接近零，高保真样本提示模型完美。换到新工况一试就崩。

原因：这是最典型的泄漏问题。高斯过程是插值型方法，训练样本点上的预测和真值天然高度吻合，拿训练点当验证集没有任何意义。如果主动学习流程里又用同一批点去判断是否继续加样本，等于让模型自己给自己打分，假迁移就这么来了。

解决：每个主动学习轮次预留三到五个高保真样本，永不投入训练，只用于验证。判断效果时看预留点上的预测误差，而不是训练点上的。这一条改动不大，但价值极高，能直接决定你推出的失效概率是否敢签字。

5.5 现象五：两变量算例跑通后，换到十维真实工程就连跑都跑不动

现象：源码在算例里很漂亮，换到十维以上的实际模型后，要么训练时间爆炸，要么残差代理不收敛，要么内存直接溢出。

原因：多维高斯过程的计算复杂度随样本量增加迅速恶化，且维度越高，RBF 内核的长度尺度越难优化，十维下训练几十个高保真点很容易得到病态协方差矩阵。低保真模型和高保真模型输入维度不一致也会让残差计算直接报维度错误。

解决：先做灵敏度分析，用 Sobol 指数筛出前五到八个重要变量，不重要的变量固定为均值后再做迁移学习。维度超过八个且高保真样本确实很少时，残差模型可以换成稀疏高斯过程或轻量神经网络，用大量低保真数据进行预训练，再拿高保真数据微调，相当于迁移学习内部再套一层迁移。不要指望一套参数通吃所有维度，模型结构必须跟着问题维度走。

6. 两招把迁移效果验明正身：KL散度与失效概率置信区间

6.1 用KL散度判断迁移是不是真的让预测靠拢了

6.2 失效概率置信区间前后要一致，不然就回到采样箝制

看多保真预测是否与真实参考一致，我会做两件事：KL散度和置信区间。KL散度用来量化“代理分布离真值分布有多远”，越小说明迁移越有效；置信区间用来核对P_f估计的统计稳定性。下面代码用KDE近似计算自这些量（如果你按前文做了留出验证点，这里就用留出点，而不是训练点）：

from sklearn.neighbors import KernelDensity # 高保真真值样本（如果是验证集就用验证集预测值） hf_true = g_hf(X_hf) # 多保真代理在同样输入上的预测 mf_pred = g_mf(X_hf) # 用预测值近似拟合代理输出的分布 kde_mf = KernelDensity(bandwidth=0.3).fit(mf_pred.reshape(-1, 1)) # 高保真真值在代理分布下的对数似然 log_ll = kde_mf.score_samples(hf_true.reshape(-1, 1)) kl_approx = -np.mean(log_ll) print(f"近似KL: {kl_approx:.4f}")

KL 越小，说明代理分布与高保真真值分布越接近。换用低保真模型做同样计算，就能判断迁移是否真正在往高保真方向修正，而不是表面精调、实际原样。

失效概率置信区间按下式估算：

se = np.sqrt(pf_mf * (1 - pf_mf) / n_mc) ci_lo = pf_mf - 1.96 * se ci_hi = pf_mf + 1.96 * se print(f"P_f 95% CI: [{ci_lo:.5f}, {ci_hi:.5f}]")

如果置信区间跨过数量级，说明要么蒙特卡洛样本数不足，要么代理预测方差过大，两者都必须回到采样和模型训练层面修正。真实参考必须落在区间内才算通过验证。

6.3 我的验证习惯

我现在每换一个新问题，都会先把这四件事做齐：画失效边界、检查相关度、算KL、算置信区间。曾经有一次迷信一个高R²且失效概率看着很漂亮的模型，结果上线验证时才发现那个数在极端工况下离散得完全没道理，后来排查到是高保真样本被重复用进了训练和验证。现在给自己定的底线是：任何代理模型在交出去之前，必须有一张和真实参考的对照表，KL和置信区间过不了关就直接重训。这套流程跑顺之后，多保真度迁移学习在工程可靠性里的收益就非常实在——低保真先验提供全局骨架，少量高保真样本负责局部修正，失效概率终于能在算力预算内算出个能签字的结果。希望帮到你。

本文还有配套的精品资源，点击获取