简介：这份文档资料聚焦因子分析中常见的非正定矩阵问题，面向使用SPSS进行多元统计分析的社科、经济、心理及医学领域研究者与数据分析学习者。资源以真实案例为主线，完整呈现某运营商无线增值业务31个省份、35个变量的因子分析过程，梳理非正定矩阵的成因、判断依据与解决思路。压缩包内含1个docx文档，约25KB，内容涵盖案例介绍、问题描述、疑问梳理、解决办法与总结等模块，重点讲解一一淘汰法识别问题变量、特征值过小或为负值的判定逻辑，以及增加样本、剔除强相关变量、数据标准化、改用主成分分析等应对策略。已有419人学习下载，适合需要排查KMO值无法输出、相关系数矩阵报错等实际问题的读者参考，帮助理解非正定矩阵对因子分析结果的影响边界与处理优先级。
1. 因子分析撞上非正定矩阵：一个让相关矩阵“翻车”的经典现场
做因子分析时，最让人心里一紧的报错不是“不收敛”，而是相关矩阵非正定。你明明只是把问卷数据丢进分析流程，软件却告诉你矩阵特征值出现负数，或者直接拒绝执行。这不是玄学，而是数据里藏着结构性问题。因子分析的核心假设是变量间存在共同变异，相关矩阵必须正定或至少半正定。一旦非正定，后续的特征值分解、载荷计算全部失去数学基础。这个案例要解决的就是：为什么会出现非正定矩阵，怎么定位，以及怎么在保留分析目标的前提下把矩阵修回可分解状态。适合正在做量表分析、问卷降维、心理测量或市场研究的从业者，尤其是那些已经跑过一轮分析、结果却卡在矩阵报错上的人。
2. 非正定矩阵的数学根源与数据病灶
2.1 正定性的判定条件与因子分析的硬性依赖
一个实对称矩阵 (A) 正定，等价于对所有非零向量 (x)，都有 (x^T A x > 0)，也等价于所有特征值严格大于零。因子分析里，相关矩阵 (R) 是实对称的，对角线为 1。如果 (R) 非正定，意味着存在某个线性组合的方差估计为负，这在真实数据中不可能出现，只能说明矩阵本身被污染了。
因子分析求解载荷矩阵时，常用主成分法或主轴因子法，两者都依赖特征值分解。特征值一旦出现负值，开平方步骤直接失败，或者得到复数载荷。即使软件用迭代方法绕开，得到的解也不稳定，因子结构无法解释。所以非正定不是“警告”，而是“此路不通”。
常见判定手段有三种：一看特征值最小值是否小于零；二看行列式是否接近零或为负；三看是否存在完全共线性。实操中，最直接的是计算特征值，Python 里一行代码就能看到。
import numpy as np import pandas as pd # 假设 df 是已经清洗过的数值型数据框 R = df.corr().values # 相关矩阵 eigenvalues = np.linalg.eigvalsh(R) # 对称矩阵用 eigvalsh 更稳 print("最小特征值:", eigenvalues.min()) print("特征值列表:", np.round(eigenvalues, 4))这段代码先算相关矩阵，再用eigvalsh求特征值。eigvalsh专门针对实对称矩阵，比通用eigvals更稳定。如果最小值小于零，比如 -0.003，说明矩阵已经非正定。注意，浮点误差可能让极小负值出现，通常绝对值小于 1e-8 可以视为零，但若达到 -0.01 以上，就是真实问题。
2.2 数据层面导致非正定的四类常见病灶
第一类，变量间存在完全线性依赖。比如问卷里有两道题是同一道题的反向计分，或者某个变量是另外两个变量的和。相关矩阵里会出现 1 或 -1 的极端值，矩阵秩亏，特征值必然有零或负。
第二类，样本量小于变量数。假设只有 20 个样本却放了 30 个变量，相关矩阵的秩最多 19，剩下 11 个特征值为零，数值误差一扰动就变成负数。这是最容易被忽略的硬伤。
第三类，缺失值处理不当。成对删除会破坏矩阵的一致性，不同变量对用的样本不同，拼出来的相关矩阵可能不满足正定性。整列删除虽然安全，但样本量骤减又会触发第二类问题。
第四类，常量或近似常量变量。某个题项所有人选同一个选项，方差为零，相关矩阵里该行该列全为零，对角线却是 1，这种矩阵直接非正定。
我一般会按这个顺序排查：先看变量数是否超过样本数，再看有没有零方差列，再看相关矩阵里有没有绝对值大于 0.99 的相关系数，最后检查缺失值处理方式。这四步能覆盖八成以上的非正定案例。
2.3 用条件数和 VIF 提前预警
除了直接看特征值，条件数（最大特征值除以最小特征值）也能预警。条件数超过 1000 就说明矩阵接近奇异，因子分析结果不可信。方差膨胀因子 VIF 则针对每个变量，VIF 大于 10 表示该变量与其他变量高度共线，是导致非正定的嫌疑犯。
from statsmodels.stats.outliers_influence import variance_inflation_factor vif_data = pd.DataFrame() vif_data["变量"] = df.columns vif_data["VIF"] = [variance_inflation_factor(df.values, i) for i in range(df.shape[1])] print(vif_data.sort_values("VIF", ascending=False))这段代码输出每个变量的 VIF。variance_inflation_factor第一个参数是数据矩阵，第二个是变量索引。VIF 超过 10 的变量要重点审查，通常是它和其他变量抱团导致矩阵病态。注意，VIF 计算前最好标准化数据，否则量纲会影响结果。
3. 从诊断到修复：一套可复现的处理流程
3.1 最小可复现案例：构造一个非正定矩阵
为了把问题说透，我构造一个模拟数据集。假设有 5 个变量，其中第 5 个变量是前两个变量的线性组合加上微小噪声，样本量只有 15。这种数据在真实问卷里很常见，比如“总收入”约等于“工资收入”加“理财收入”。
import numpy as np import pandas as pd np.random.seed(42) n = 15 x1 = np.random.normal(0, 1, n) x2 = np.random.normal(0, 1, n) x3 = np.random.normal(0, 1, n) x4 = np.random.normal(0, 1, n) x5 = x1 + x2 + np.random.normal(0, 0.01, n) # 近似完全共线 df_sim = pd.DataFrame({"x1": x1, "x2": x2, "x3": x3, "x4": x4, "x5": x5}) R_sim = df_sim.corr().values eig_sim = np.linalg.eigvalsh(R_sim) print("最小特征值:", eig_sim.min()) print("条件数:", eig_sim.max() / eig_sim.min())运行后最小特征值大概率是负数，条件数极大。这个模拟数据就是后续修复步骤的靶子。注意np.random.seed(42)保证结果可复现，实际项目中不需要固定种子，但写案例时固定种子方便读者对照。
3.2 修复策略一：剔除冗余变量与零方差列
最直接的办法是找出并删除冗余变量。冗余变量包括零方差列、VIF 极高的列、以及与其他变量相关系数超过 0.95 的列。删除时优先保留理论含义更核心的那个变量。
# 删除零方差列 df_clean = df_sim.loc[:, df_sim.std() > 1e-6] # 计算相关矩阵并找出高相关对 corr_matrix = df_clean.corr().abs() upper = corr_matrix.where(np.triu(np.ones(corr_matrix.shape), k=1).astype(bool)) to_drop = [column for column in upper.columns if any(upper[column] > 0.95)] df_clean = df_clean.drop(columns=to_drop) print("删除的列:", to_drop) print("剩余列:", df_clean.columns.tolist())这段代码先过滤标准差接近零的列，再用上三角矩阵找出相关系数大于 0.95 的列并删除。np.triu配合k=1只保留上三角，避免重复检查。参数 0.95 是经验阈值，实际项目可以放宽到 0.90 或收紧到 0.98，取决于你对共线性的容忍度。删除后重新计算特征值，通常最小特征值会回到正数。
3.3 修复策略二：增加样本量或使用正则化相关矩阵
如果变量都重要、不能删，那就得从样本量入手。样本量至少是变量数的 5 到 10 倍，因子分析才稳定。如果样本量实在不够，可以考虑在相关矩阵对角线加上一个很小的正数，这叫岭正则化，相当于承认每个变量有少量独特方差。
def regularize_corr(R, lambda_reg=0.05): """对相关矩阵做岭正则化，保证正定""" R_reg = R.copy() np.fill_diagonal(R_reg, 1 + lambda_reg) return R_reg R_sim_reg = regularize_corr(R_sim, lambda_reg=0.05) eig_reg = np.linalg.eigvalsh(R_sim_reg) print("正则化后最小特征值:", eig_reg.min())regularize_corr函数把对角线从 1 提高到 1.05，相当于给每个变量增加 0.05 的独特方差。lambda_reg控制正则化强度，太小不起作用，太大会扭曲因子结构。我一般从 0.05 开始试，如果最小特征值仍为负，逐步增加到 0.1 或 0.2。注意，正则化后的矩阵不再等于原始相关矩阵，解释时要说明这一点。
3.4 修复策略三：改用主轴因子法并设置迭代容差
如果矩阵只是轻微非正定，比如最小特征值是 -0.001，可以改用主轴因子法（principal axis factoring），它只使用正特征值部分，迭代过程中自动忽略负特征值。在 Python 的factor_analyzer包里可以指定。
from factor_analyzer import FactorAnalyzer fa = FactorAnalyzer(n_factors=2, rotation="varimax", method="principal") fa.fit(df_sim) print("特征值:", fa.get_eigenvalues()[0]) print("载荷矩阵:\n", fa.loadings_)method="principal"指定主轴因子法，n_factors=2是因子数，rotation="varimax"是旋转方法。主轴因子法在迭代时会用当前共同度估计替换对角线，负特征值不会直接导致崩溃。但要注意，如果非正定严重，迭代可能不收敛，这时还是要回到删除变量或正则化。
4. 避坑与排查：非正定矩阵处理中的五个血泪教训
4.1 现象：删除变量后矩阵仍非正定
原因：删除的是低相关变量，但真正导致非正定的是缺失值处理方式。成对删除产生的相关矩阵本身就不一致，删变量解决不了。
解决：统一改用整列删除或均值插补，重新计算相关矩阵。插补后样本量不变，矩阵一致性有保证。如果插补后仍非正定，再检查是否有近似共线变量。
4.2 现象：特征值最小值是 -1e-16，软件却报错
原因：浮点精度问题。理论上零特征值在数值计算中可能变成极小负数，不同软件容忍度不同。
解决：在代码里设置阈值，把绝对值小于 1e-8 的特征值视为零。如果软件仍报错，给对角线加 1e-6 的微小量，不影响结果。
4.3 现象：正则化后因子载荷完全变了
原因：正则化强度过大，比如lambda_reg=0.5，对角线从 1 变成 1.5，变量独特方差被严重高估，因子结构扭曲。
解决：从 0.01 开始逐步增加，每次检查最小特征值和载荷可解释性。找到刚好让矩阵正定的最小强度，不要一步到位。
4.4 现象：样本量足够，变量也不共线，矩阵还是非正定
原因：数据里存在离群值。个别样本在多个变量上极端取值，拉高了某些相关系数，破坏了矩阵结构。
解决：计算马氏距离，找出距离超过卡方临界值的样本，检查是否为录入错误。确认是真实极端值后，考虑稳健相关矩阵，比如使用 Spearman 相关代替 Pearson 相关。
4.5 现象：因子分析跑通了，但因子无法解释
原因：为了修复非正定，删掉了关键理论变量，剩下的变量虽然矩阵正定，但共同变异不代表原始构念。
解决：修复前先记录每个变量的理论角色。删除时优先删测量误差大、与其他变量冗余的题项，保留构念核心题项。如果核心题项必须保留，宁可增加样本量或改用正则化，也不要删。
5. 进阶技巧：用模拟实验找到你的非正定容忍边界
非正定矩阵不是非黑即白的问题。轻微非正定和严重非正定对因子分析的影响完全不同。我习惯在正式分析前跑一个小型模拟实验，看看在当前样本量和变量数下，矩阵能承受多大程度的共线性。
具体做法是：固定变量数和样本量，逐步增加两个变量之间的相关系数，从 0.8 开始，每次增加 0.01，直到矩阵非正定。记录下临界相关系数，这个值就是你的数据容忍边界。如果实际数据中最高相关系数远低于临界值，说明非正定风险很低；如果接近临界值，就要提前处理。
def find_collinearity_threshold(n_samples, n_vars, step=0.01): """逐步增加共线性，找到非正定临界点""" threshold = 0.8 while threshold < 1.0: np.random.seed(0) base = np.random.normal(0, 1, (n_samples, n_vars - 2)) x_last = base[:, 0] * threshold + np.random.normal(0, 0.1, n_samples) x_second_last = base[:, 1] * threshold + np.random.normal(0, 0.1, n_samples) data = np.column_stack([base, x_last, x_second_last]) R = np.corrcoef(data, rowvar=False) eig_min = np.linalg.eigvalsh(R).min() if eig_min < 0: return threshold threshold += step return None 临界值 = find_collinearity_threshold(n_samples=100, n_vars=10) print("非正定临界相关系数:", 临界值)这个函数模拟不同共线性水平下的相关矩阵，返回第一个导致非正定的相关系数。n_samples和n_vars按你的实际数据设置。step控制搜索精度，0.01 足够。运行后如果临界值是 0.92，说明你的数据里相关系数只要不超过 0.92 就安全。这个技巧帮我省了很多次反复试错的时间，也让我在数据收集阶段就知道该控制哪些题项的相关性。
另一个习惯是：每次因子分析前，先输出相关矩阵的热力图和特征值分布。热力图能一眼看出哪些变量抱团，特征值分布能看出矩阵是否病态。这两个图不用写进报告，但作为分析前的自检，能避免大部分非正定翻车。我一般会把最小特征值和条件数记在分析日志里，下次遇到类似数据时有个参照。
希望帮到你。
本文还有配套的精品资源，点击获取
