简介：这份资源为机器学习在网站用户行为预测中的应用研究文献，面向数据分析、互联网运营、旅游网站运营以及算法学习者。内容围绕logistic回归算法展开，详细讲解用户行为数据集的预处理、按固定比例分类及统计分布验证，并给出旅游网站用户留存预测的建模实例与结果分析，能帮助读者快速掌握行为预测模型的构建流程与关键参数设计。资源为单份PDF文件，压缩包大小约1.87MB，适合下载后直接阅读或打印。该文献在CSDN已有251人学习，适合需要撰写机器学习相关论文、开展用户流失预测实践或进行专业指导的读者。全文包含引言、机器学习基本原理、logistic回归模型推导、预测结果分析及关键词，结构完整，便于作为专业参考文献使用。
1. 用户行为预测：一篇论文背后的 logistic 回归落地细节
做网站留存分析的人，迟早会遇到同一道坎：用户数据拉了一堆，指标也有几十个，但真要预测一个用户明天还来不来、会不会下单，能用的方法反而不多。这篇《基于机器学习技术的网站用户行为预测》恰好把这件事讲透了——作者用某旅游网站 2016 年 7 月 15 日到 21 日一周的用户访问数据，348 596 个用户、35 个指标，用 logistic 回归建了一个用户留存预测模型，最终准确率做到 67.8%，正样本召回率 32.89%，F 值 43.76%。这不是一篇堆算法的论文，它直接给出了完整预测方程和每一项变量的系数，意味着你拿着这篇文章，完全可以复现整个建模流程，甚至把系数迁移到自己的数据集上做验证。文章还对比了 logistic 回归和随机森林在这个场景下的表现，得出 logistic 回归预测更准确的结论。对于正在做用户流失预测、留存分析、或者只是想搞清楚逻辑回归在真实业务数据上怎么落地的人来说，这份资源值得认真拆一遍。
2. 为什么是 logistic 回归：二分类场景下的稳定解
2.1 logistic 函数与 Sigmoid 的关系
logistic 回归的核心是那个把任意实数映射到 0 到 1 区间的 S 型函数。1838 年 Verhulst 在研究人口统计时提出这个函数，后来被推广到分类问题中。先看它的数学形式：
令 p 表示事件 y = 1 的概率，logit 变换为： z = logit(p) = ln(p / (1 - p)) 逆变换得到 logistic 函数： p = 1 / (1 + e^(-z))注意 z 的取值范围是负无穷到正无穷，经过这个变换后 p 被压缩到 (0,1) 之间，这就天然适合做概率输出。这个函数也叫 Sigmoid 函数，是神经网络里常用的激活函数之一，但在 logistic 回归里它是连接线性组合和概率输出的桥梁。
为什么旅游网站用户留存预测适合用它？因为留存问题本质上是二分类——用户留存还是流失，没有中间状态。而 logistic 回归的另一个好处是：给出的不是硬分类结果，而是留存概率。比如表 2 中用户 ID 25094 的概率是 0.6259，说明这个用户有六成以上概率留存，运营可以据此决定是否给予优惠券刺激。这种概率输出比随机森林直接给类别标签更有业务价值，这也是论文作者选择它的核心原因。
2.2 线性组合和对数几率的关系
logistic 回归的建模思路是把对数几率（log-odds）表示成自变量的线性组合：
ln(p / (1 - p)) = β0 + β1*x1 + β2*x2 + ... + βn*xn + ε这里的 β 系数是模型要学习的参数，x 是用户行为特征。在论文的场景里，x 包括用户访问次数（nums_visit）、是否浏览后购买（visit_to_buy）、落地页停留时间（land_time）、偏好星级（perfer_star）、下单次数（nums_order）等 16 个进入最终方程的变量。
理解这个公式的意义在于：每个 β 系数的正负和大小直接告诉我们该特征对留存的影响方向和强度。比如论文给出的方程中，nums_visit 的系数是 +1.402，这是所有变量中最大的正系数，说明访问次数每增加一个单位，用户留存的 log-odds 增加 1.402，这是一个强正向信号。而 cust_cr 的系数是 -0.385，说明转化率高的用户反而更容易流失——这看起来反直觉，但其实合理：已经完成购买的用户短期内没有再次消费的动力，这是旅游网站典型的"购买后沉默期"现象。
2.3 和随机森林的对比选型
论文在摘要中明确说，使用 logistic 回归算法的预测模型具有更准确的预测效果。这并不意味着随机森林一定差，而是在这个具体场景下，logistic 回归的优势体现在三个方面：
第一，数据量 34 万级别，特征只有 35 个，属于典型的中小规模表格数据，logistic 回归在这种数据上收敛快、训练稳定。第二，logistic 回归对特征的解释性远强于随机森林——你需要向业务部门解释"为什么这个用户会被预测为流失"，logistic 回归可以直接给出系数权重，随机森林只能给出特征重要性排序，无法说明方向。第三，logistic 回归自带概率校准，输出的 p(y=1) 可以直接当留存概率用，而随机森林输出的概率需要额外做校准（比如 Platt scaling）才可靠。
我自己的经验是：如果业务方要求"给我一个分数，我拿去给用户发优惠券"，用 logistic 回归；如果业务方只是说"把可能流失的人圈出来"，随机森林也不差，但上线后解释模型压力很大。
3. 建模前的数据预处理：从 35 个指标到可训练的数据集
3.1 原始数据的字段构成与含义
论文使用的数据包含用户信息、酒店信息和浏览信息三类，总共 35 个指标，348 596 个用户。这类数据在真实的旅游网站日志中长什么样？我拆几个典型字段：
- 用户信息类：用户 ID、注册时长、历史订单数（nums_order）、用户价值权重（weight_cust_value）
- 浏览行为类：访问次数（nums_visit）、落地页停留时间（land_time）、浏览酒店页数（hotel_uv）、访问到购买转化（visit_to_buy）
- 偏好类：偏好星级（perfer_star）、偏好商务型权重（weight_perfer_busi）、低价偏好（low_price）
- 评价互动类：酒店评论数（hotel_comment_nums）、评论偏好权重（weight_comment_num）、用户自身转化率（cust_cr）
这些字段中，label是目标变量，表示用户最终是否留存（1 留存，0 流失）。在论文的建模流程中，id 被排除在协变量之外，因为它只是用户标识，不携带预测信息——但我看过很多初学者的翻车现场，直接把 id 拖进模型，结果模型学到的是"ID 尾号为偶数的用户留存率高"这种毫无意义的规律。
3.2 数据集切分：固定比例与统计分布验证
论文特别强调一点：按照固定的比例对数据集合进行分类，验证数据集的分类服从相同的统计分布。这一步在论文里只占了一句话，但在实际建模中非常关键。
常见的做法是按 7:3 或 8:2 切分训练集和测试集。这篇论文的测试集是 14 630 组数据，占总样本的比例大约是 4.2%，这个比例偏小，但在早期研究中并不罕见。更重要的不是切分比例，而是切分后要验证训练集和测试集的目标变量分布是否一致。比如全量数据中留存用户占比约 10%，如果切分后训练集留存用户占比变成 5%，测试集变成 20%，那模型在训练集上学会的规律在测试集上完全不适用，预测结果就是废的。
我在实际项目里验证分布是否一致的方法很简单：
import pandas as pd from sklearn.model_selection import train_test_split # 加载数据，假设 df 是原始数据集，label 是目标列 df = pd.read_csv('user_behavior.csv') # 按固定比例切分，stratify 保证 label 分布一致 train_df, test_df = train_test_split( df, test_size=0.3, random_state=42, stratify=df['label'] ) # 验证切分后两部分的 label 分布 train_ratio = train_df['label'].mean() test_ratio = test_df['label'].mean() print(f'训练集留存占比: {train_ratio:.4f}, 测试集留存占比: {test_ratio:.4f}') # 如果两个比例偏差超过 0.02，说明切分有问题 assert abs(train_ratio - test_ratio) < 0.02, '分布不一致，需要重新切分'这段代码的关键在stratify=df['label']参数。它会让 train_test_split 在切分时保持 label 列的比例一致，避免随机切分带来的分布偏移。random_state=42是固定随机种子，保证每次运行结果一致，这在调试和评审时很重要——评审人员需要能复现你的结果，没有固定种子的话每次跑出来的模型都不一样。
验证分布之后，可以再看一下数值型特征的均值和标准差在训练集和测试集上是否接近，比如 nums_visit 的均值差如果超过 0.5，就要检查是不是切分出了问题。很多时候分布不一致不是切分随机性导致的，而是数据本身有时间跨度——比如训练集只取前 5 天、测试集取后 2 天，那测试集的用户行为模式可能已经因为周末效应发生变化。论文用的是连续一周的数据，比较稳妥，但如果你自己拉数据，建议先看时间维度上 label 的稳定性。
3.3 特征标准化与异常值处理
logistic 回归对特征尺度不敏感，因为它在优化过程中会给每个特征学习一个合适的权重。但是，系数大小直接受特征尺度影响，比如 nums_visit 的取值范围是 1 到 100，而 land_time 的取值范围可能是 0 到 5000，两个特征的系数量级会差很多。这不会影响预测准确率，但会影响你解读系数——你没法直接比较哪个特征对留存的影响更大。
解决方法是做标准化：
from sklearn.preprocessing import StandardScaler # 选取进入模型的数值特征列 feature_cols = ['visit_to_buy', 'nums_visit', 'land_time', 'perfer_star', 'nums_order', 'fir_order_bu', 'weight_cust_value', 'hotel_uv', 'hotel_cr', 'low_price', 'weight_perfer_busi', 'cr_prefer', 'cust_cr', 'weight_comment_num', 'last_order_diff', 'cust_visit_pages'] scaler = StandardScaler() # fit 在训练集上，transform 同时应用到训练集和测试集 train_df[feature_cols] = scaler.fit_transform(train_df[feature_cols]) test_df[feature_cols] = scaler.transform(test_df[feature_cols])这里有一个关键细节：scaler.fit只能在训练集上做，transform同时应用到训练集和测试集。如果你先对全量数据做 fit 再切分，测试集的信息已经泄漏到模型里，评估结果会虚高。这也算建模中最常见的坑之一——特征缩放的信息泄漏。
异常值方面，论文没有细说，但从旅游网站的行为数据来看，nums_visit 和 land_time 这类字段经常出现极端值：有人一天访问 200 次（可能是爬虫），有人落地页停留 0 秒（可能是误点或者直接关闭）。常规处理方式是把超过 99.9 分位数的值做截断处理：
# 对极端值做分位数截断 for col in ['nums_visit', 'land_time', 'hotel_uv']: upper = df[col].quantile(0.999) df[col] = df[col].clip(upper=upper)clip 方法把超过上限的值直接压到上限，既不删除样本又不影响大多数正常用户的数据。处理异常值之后再做标准化，特征分布会更稳定，训练出来的系数也更可靠。
4. 在 SPSS 里复现这篇论文的建模流程：菜单操作与结果解读
4.1 二元 logistic 回归的菜单路径与参数设置
论文使用的是 SPSS 17.0，操作路径是：分析 → 回归 → 二元 Logistic。这是在 SPSS 里跑二分类 logistic 回归的标准路径，不同版本菜单位置略有差异但逻辑一样。
导入数据后，在二元 Logistic 对话框里需要设置几个关键项：
- 因变量：选择
label - 协变量：把
hotel_comment_nums、id之外的其他变量选入。论文原文说选择的是hotel_comment_nums与id等其他协变量，但从模型结果看，最终进入方程的只有 16 个变量，说明 SPSS 在迭代过程中做了变量筛选 - 方法：论文提到"步进概率选项中选择默认设置"，对应的是"进入"（Enter）或"向前：条件"（Forward: Conditional）。从模型结果看，最终方程不是全部 35 个变量都进入，应该用了向前步进法
- 选项：勾选"分类图"、"Hosmer-Lemeshow 拟合度"、"exp(B)" 三项
- 保存：勾选"标准化"、"偏差"和"杠杆值"，用于后续诊断分析
实际操作中，我一般在"选项"里还会勾选"CI for exp(B)"，这样能得到每个变量的 95% 置信区间，判断系数估计的稳定性。如果置信区间跨越 1，说明该变量的系数在统计上不显著。
4.2 模型输出的分类表和汇总表解读
论文给出了模型的三个核心输出：
第一个是分类表，显示模型的预测效果：
| 已观测 | label=0 预测 | label=1 预测 | 正确百分比 |
|---|---|---|---|
| label=0 | 24 298 | 10 879 | 87.6 |
| label=1 | 13 536 | 5 198 | 32.89 |
| 总计百分比 | - | - | 67.8 |
这张表的信息量很大：模型对负样本（label=0，流失用户）的预测准确率高达 87.6%，但对正样本（label=1，留存用户）的预测准确率只有 32.89%。这说明模型偏向预测"流失"，原因很简单——数据中留存用户占比本身就低（约 13%），模型只需要把大多数样本预测为流失就能拿到不错的整体准确率。这就是类别不平衡问题的典型表现。
第二个是汇总表：
| 指标 | 值 |
|---|---|
| 对数似然值 | 52 829.756 |
| Cox and Snell R 方 | 0.108 |
| Nagelkerke R 方 | 0.146 |
对数似然值反映了模型的拟合程度，值越小越好，但这只对同一数据集上的不同模型有比较意义。论文说 52 829.756 远大于 χ² 临界值 32.589 2，属于通过了统计检验，这个判断本身没问题，但对数似然值太大说明模型拟合并不理想，原因可能是遗漏了重要的交互项或者非线性关系。
Cox and Snell R 方和 Nagelkerke R 方都是伪 R 方，解释力和线性回归里的 R² 不同，不能直接理解成"模型解释了 14.6% 的方差"，只能作为模型间相对比较的参考。在实际使用时，我更关注 Hosmer-Lemeshow 拟合度检验——它的原假设是模型拟合良好，如果 p 值大于 0.05，说明模型通过拟合度检验。
4.3 预测方程与概率阈值的设定逻辑
论文给出了完整的预测方程，这是整篇文章最值钱的部分：
p(y=1) = 1 / (1 + exp(-(0.644 + 0.566*visit_to_buy + 1.402*nums_visit - 0.09*land_time + 0.066*perfer_star - 0.238*nums_order + 0.054*fir_order_bu - 0.176*weight_cust_value - 0.074*hotel_uv - 0.125*hotel_cr + 0.075*low_price - 0.086*weight_perfer_busi - 0.051*cr_prefer - 0.385*cust_cr - 0.103*weight_comment_num + 0.075*last_order_diff - 0.064*cust_visit_pages)))解读这份方程时，有几个反直觉的点值得注意：
nums_order（下单次数）系数是 -0.238，也就是说订单越多，留存概率越低。这在旅游网站场景下是合理的：订过酒店的用户短期内不会重复预订，而注册后一直没下单的用户反而可能在近期完成第一单。但这和很多人的直觉相反——他们会觉得"买过东西的客户忠诚度高"，实际上在低频消费场景下恰恰相反。
land_time（落地页停留时间）系数是 -0.09，停留时间越长反而不容易留存。这可能是混淆变量在起作用：停留时间长的人可能是在比价，而不是真正要购买。
概率阈值取 0.5 是论文的做法。在这个类别不平衡的数据集上，0.5 的阈值其实不是最优选择。更合适的做法是看 ROC 曲线找约登指数（Youden's J）最大点，或者根据业务成本来决定：如果给留存用户发优惠券的成本是 10 元，而挽回一个流失用户的收益是 100 元，那阈值应该调低，宁可多误判一些用户也不要漏掉真正的留存用户。
5. 用户行为预测避坑指南：类别不平衡与特征选择的四个常见坑
5.1 精确率很高但召回率极低：类别不平衡的陷阱
现象：模型整体准确率 67.8%，负样本预测准确率 87.58%，正样本只有 32.99%。表面看模型"能用"，实际上几乎没有抓住真正的留存用户，做运营活动时圈出来的人大部分还是流失用户。
原因：数据中留存用户占比太低（论文数据显示正样本约 12%），logistic 回归在优化对数似然时，样本量大的类别对损失函数的贡献更大，模型学会了"无脑预测为流失"就能拿到很低的损失。
解决：三种常用手段。第一，对少数类做上采样（SMOTE 或简单重复采样），让训练集中正负样本比例接近 1:1；第二，调整分类阈值，不要死守 0.5，用验证集试 0.3、0.4、0.2 哪个 F1 值最高；第三，在损失函数中给少数类样本加权，SPSS 里可以在"选项"中设置先验概率，让模型更重视留存用户。实际项目里，把阈值降到 0.3 通常能让召回率从 33% 提升到 60% 以上，代价是负样本的准确率会下降到 70% 左右。
5.2 把 id 当协变量选进去：看似无害实则致命的操作
现象：模型训练完成后，发现某个变量的系数异常大（比如几百），而且预测准确率异常高，接近 100%。
原因：id 是用户唯一标识，每个样本的 id 都不相同，logistic 回归只学到"每个 id 对应一个固定输出"，训练集上拟合完美，测试集上完全失效。
解决：建模前先做特征筛选，删除所有主键类、时间戳类、高基数类别特征。在 SPSS 里，最简单的做法是只把数值型和有意义的类别变量选入协变量，id 这类字段留在数据集里但不要拖进模型。我通常会在建模前用 Python 先跑一遍相关性分析，把和目标变量相关性超过 0.8 但业务上说不通的字段一律剔除。
5.3 切分数据时不验证分布一致性：模型上线就翻车
现象：训练时准确率 70%，测试时准确率骤降到 50%，整个模型的判别能力消失。
原因：随机切分数据时没有按 label 分层，导致训练集和测试集中留存用户占比相差过大。更隐蔽的情况是数据本身有周期性——比如旅游网站周末访问量高，工作日下单率高，如果测试集恰好是周末数据，模型的预测效果必然变差。
解决：切分时强制使用stratify参数（对应 SPSS 里不直接支持，需要在切分前手工排序或抽样）。更严格的做法是直接按时间维度切分：前 5 天做训练，后 2 天做测试，模拟真实的线上预测场景。后续监控时如果发现预测概率分布和训练时有显著偏移，先检查是不是时间特征导致分布漂移。
5.4 只盯准确率不看业务成本：模型指标与 ROI 的错位
现象：模型准确率 67.8%，看起来不错，但运营部门用这个模型圈用户发优惠券后，ROI 反而为负。
原因：准确率是一个"挂在墙上的指标"，它没有区分两类错误的不同代价。在用户留存场景下，假阳性（把流失用户预测为留存，不发券）导致的损失较小，只是少了一个转化机会；假阴性（把留存用户预测为流失，发券）导致的损失直接就是优惠券的成本。如果模型把留存用户全部漏掉，准确率再高也没有业务价值。
解决：做模型评估时，不要只看准确率和 F1，要按业务成本定义损失函数。比如：给留存用户发 10 元券的成本是 10 元，挽回一个流失用户的收益是 80 元，那模型的期望收益 = 0.8 * 召回率 * 流失用户数 - 10 * 误判率 * 留存用户数。我一般会统计不同阈值下的期望收益，选收益最高的阈值，而不是默认的 0.5。
6. 进阶：用 Python 复现 logstic 回归并落地为可解释的预测服务
6.1 用 sklearn 复现论文中的模型
虽然论文用的是 SPSS，但它给出的预测方程和评估逻辑完全可以用 Python 复现，而且更容易工程化。标准的 sklearn 实现如下：
import pandas as pd from sklearn.linear_model import LogisticRegression from sklearn.metrics import classification_report, roc_auc_score from sklearn.model_selection import train_test_split from sklearn.preprocessing import StandardScaler # 加载数据 df = pd.read_csv('user_behavior.csv') # 特征列和目标列 feature_cols = ['visit_to_buy', 'nums_visit', 'land_time', 'perfer_star', 'nums_order', 'fir_order_bu', 'weight_cust_value', 'hotel_uv', 'hotel_cr', 'low_price', 'weight_perfer_busi', 'cr_prefer', 'cust_cr', 'weight_comment_num', 'last_order_diff', 'cust_visit_pages'] X = df[feature_cols] y = df['label'] # 分层切分，保持正负样本比例一致 X_train, X_test, y_train, y_test = train_test_split( X, y, test_size=0.3, random_state=42, stratify=y ) # 标准化 scaler = StandardScaler() X_train_scaled = scaler.fit_transform(X_train) X_test_scaled = scaler.transform(X_test) # 训练模型，调整 class_weight 缓解类别不平衡 model = LogisticRegression(class_weight='balanced', max_iter=1000) model.fit(X_train_scaled, y_train) # 预测概率和类别 y_proba = model.predict_proba(X_test_scaled)[:, 1] y_pred = (y_proba >= 0.3).astype(int) # 阈值下探到 0.3 # 评估 print(classification_report(y_test, y_pred)) print('AUC:', roc_auc_score(y_test, y_proba))这段代码复现了论文的完整流程，关键参数说明：
class_weight='balanced'：自动调整类别权重，等效于论文中"设置先验概率"的操作，让模型更关注少量级的留存用户。这是解决类别不平衡最省事的方法，不需要手写采样逻辑max_iter=1000：sklearn 默认最大迭代次数是 100，论文数据有 34 万样本，100 次迭代常常不够收敛，会直接报错或给出警告。设成 1000 能保证收敛- 阈值设成 0.3 而不是 0.5：基于论文数据正样本占比约 12% 的事实，0.3 通常能拿到更高的召回率，这是我在复现时调整的变量
运行后可以得到系数和截距：
# 输出每个特征的系数，对比论文给出的预测方程 coef_df = pd.DataFrame({ 'feature': feature_cols, 'coef': model.coef_[0], 'abs_coef': abs(model.coef_[0]) }).sort_values('abs_coef', ascending=False) print(coef_df)对比论文给出的方程，你会发现系数方向基本一致（nums_visit 为正、nums_order 为负），但绝对值有差异，原因在于 sklearn 默认带 L2 正则化（C=1），而 SPSS 默认不做正则化。如果想去掉正则化让系数更接近论文，可以设置penalty='none'。不过我不建议完全照搬——L2 正则化在特征有相关性时能提高模型稳定性，实际部署时反而更可靠。
6.2 用 SHAP 解释模型：从系数到每个用户的归因
logistic 回归的系数是全局性的——它告诉你"平均来看"访问次数对留存的影响是正的，但没法解释"为什么这个 ID 是 25098 的用户大概率流失"。如果你需要向运营解释每个用户的具体流失原因，SHAP 是一个实用的工具。
import shap # 用训练好的模型创建 Explainer explainer = shap.LinearExplainer(model, X_train_scaled) shap_values = explainer.shap_values(X_test_scaled) # 可视化第一个用户的特征贡献 shap.force_plot(explainer.expected_value, shap_values[0, :], X_test.iloc[0, :])shap.LinearExplainer专门针对线性模型（包括 logistic 回归），它能把每个特征的贡献分解成绝对值，比如显示"该用户的 nums_visit 特征使其留存概率提升了 8.3 个百分点，但 nums_order 特征使其概率降低了 5.1 个百分点"。这种程度的解释粒度，SPSS 做不到，但换到 Python 生态就成了标配。
6.3 模型上线后的监控指标与阈值校准
模型训练完成不是终点。实际部署时，我习惯在预测接口里同时输出概率值和三个监控指标：
一是预测概率的分布，每周对比线上用户和训练集用户的平均预测概率，如果偏差超过 0.05，大概率是用户行为模式变了，需要重新训练。二是留存用户的实际转化率，按预测概率分桶统计，比如预测概率 0.1-0.2 的用户实际留存率是多少、0.8-0.9 的是多少，如果高概率桶的实际留存率反而低，说明模型已经失效。三是阈值要定期校准，业务淡旺季用户行为差异大，旺季阈值可以调低多圈人，淡季阈值调高减少误判。
这套流程走下来，你已经不只是复现了一篇论文，而是把 logistic 回归用户行为预测落地成了可监控、可解释、可迭代的完整方案。做用户留存预测这几年，我最大的教训就是：模型准确率再高，业务不买单就是废纸；能把系数解释清楚、能说清楚每个用户的流失归因、能随着业务节奏调整阈值，比一味追求 AUC 提升更有价值。从那以后，我每次做行为预测建模，都会强制走一遍"数据分布验证 → 类别不平衡处理 → 阈值按业务成本校准 → 上线后监控概率偏移"这条完整链路，少一步都觉得心里不踏实。希望这篇拆解对你也有用。
本文还有配套的精品资源，点击获取
