1. 为什么还要聊VarScan这款“老牌”变异检测工具
如果你最近几年才接触生信分析，可能满耳朵都是GATK、DeepVariant、Strelka这些名字，VarScan听起来像是上个时代的产物。但我在实际项目里反复验证过一件事：工具没有绝对的新旧，只有合不合适。VarScan最早是2009年发表在Genome Research上的一款基于Java的变异检测软件，专门针对二代测序数据做SNP和Indel的识别，尤其擅长处理肿瘤-正常配对样本的体细胞突变检测。它的核心优势在于逻辑清晰、参数透明、对低覆盖度数据的容忍度比较好，而且运行速度在当时算是相当能打的。
我之所以重新翻出VarScan的文献来细读，是因为手头一个肿瘤panel的项目遇到了麻烦：样本测序深度参差不齐，有些区域只有30×左右，用某些新工具跑出来的假阳性高得离谱。回头用VarScan的somatic模式配合合理的过滤策略，结果反而干净很多。这让我意识到，很多新手一上来就追新工具，却忽略了老工具在特定场景下的稳定性。这篇文章我会把VarScan的核心原理、文献里的关键设计、实操流程、参数调优和踩坑经验全部拆开讲清楚，适合刚入门变异检测的生信新手，也适合正在做肿瘤突变负荷分析的老手参考。
VarScan的全称是Variant Scanner，最初设计目标是处理Illumina和SOLiD平台的比对结果，输入是SAM/BAM格式，输出是VCF或自定义的变异列表。它不像GATK那样依赖复杂的本地重组和BQSR流程，而是直接基于比对结果做碱基级别的统计检验。这种“轻量级”的设计思路，让它在处理异质性高的肿瘤样本时反而有独特的优势。文献里提到的一个核心观点是：肿瘤样本的突变等位基因频率往往远低于50%，传统的二倍体假设会漏掉大量低频突变，而VarScan的统计模型专门为此做了优化。
2. VarScan文献核心思路拆解与设计哲学
2.1 从“计数”到“统计检验”的底层逻辑
VarScan的检测逻辑说穿了并不复杂：它在每个位点上统计四种碱基的测序读段支持数，然后通过Fisher精确检验或卡方检验来判断该位点是否存在非参考碱基的显著富集。对于肿瘤-正常配对样本，它会分别计算肿瘤和正常样本的等位基因频率，再用配对检验来判断突变是体细胞来源还是胚系来源。文献里详细描述了三种检测模式：mpileup2snp用于单样本SNP检测，mpileup2indel用于Indel检测，somatic用于配对样本的体细胞突变检测。
这里有个关键设计值得注意：VarScan并没有采用贝叶斯模型去估计基因型概率，而是直接基于测序深度和等位基因计数做频率阈值判断。这种做法的好处是计算速度极快，一个30×的全外显子组数据在普通服务器上几十分钟就能跑完；坏处是对测序错误的建模不够精细，所以必须配合严格的过滤条件。文献里给出的推荐阈值是：肿瘤样本中变异等位基因频率≥5%，正常样本中≤5%，且肿瘤样本中支持变异的读段数≥3。这些数字看起来简单，但背后是大量模拟和真实数据验证的结果。
2.2 为什么VarScan对低频突变更友好
肿瘤样本的突变检测有个绕不开的难题：肿瘤纯度。如果肿瘤细胞只占样本的30%，那么一个杂合突变在测序数据里的等位基因频率可能只有15%左右，甚至更低。很多基于二倍体基因型假设的工具会直接把这类位点判为测序错误或噪声。VarScan的设计从一开始就考虑到了这一点，它的somatic模式不要求肿瘤样本的等位基因频率达到某个固定值，而是通过正常样本的频率作为背景对照，只要肿瘤样本的频率显著高于正常样本，就判定为候选体细胞突变。
文献里有一组模拟数据很能说明问题：在肿瘤纯度20%、测序深度50×的条件下，VarScan对等位基因频率5%的突变检出率仍然能达到70%以上，而某些基于贝叶斯模型的新工具在同样条件下检出率不到50%。当然，代价是假阳性率会有所上升，这就需要后续的过滤步骤来平衡。我在实际项目里的经验是：VarScan的原始输出必须经过至少三轮过滤——先按频率和深度筛，再按链偏倚和读段位置筛，最后用ANNOVAR或VEP做功能注释后再人工核查。
2.3 文献中提到的关键参数与默认值陷阱
VarScan的文献里列出了一长串参数，但很多新手直接跑默认值，结果要么漏检一堆真突变，要么拿到几千个假阳性。我整理了几个最容易被忽略但影响巨大的参数：
| 参数名 | 默认值 | 推荐调整 | 影响说明 |
|---|---|---|---|
--min-coverage | 8 | 10-20 | 低于此深度的位点直接跳过，肿瘤样本建议至少10× |
--min-reads2 | 2 | 3-5 | 支持变异的最小读段数，太低会引入大量假阳性 |
--min-avg-qual | 15 | 20-25 | 碱基质量阈值，肿瘤FFPE样本建议适当降低 |
--min-var-freq | 0.01 | 0.05-0.10 | 变异频率阈值，根据肿瘤纯度调整 |
--p-value | 0.99 | 0.05-0.01 | 统计检验的显著性阈值，默认值过于宽松 |
--strand-filter | 1 | 1 | 链偏倚过滤，1表示开启，强烈建议保持开启 |
--somatic-p-value | 0.05 | 0.01-0.05 | 配对样本的体细胞检验阈值 |
特别要提醒的是--p-value这个参数，默认值0.99意味着几乎不进行统计过滤，所有频率超过阈值的位点都会被输出。文献里虽然解释了这是为了“保留最大信息量供后续过滤”，但很多新手不知道这一点，直接拿原始输出做下游分析，结果可想而知。我的习惯是第一轮用宽松阈值跑，拿到全量候选位点，然后用自定义脚本做多轮硬过滤，这样既不会漏掉真突变，也能把假阳性压到可接受范围。
3. 实操流程：从BAM到高置信变异列表的完整路径
3.1 环境准备与软件安装
VarScan是Java写的，所以第一步是确保系统有Java运行环境。我一般用OpenJDK 8或11，太新的版本偶尔会有兼容性问题。安装过程很简单，从SourceForge下载jar包即可，但要注意VarScan需要配合samtools的mpileup功能使用，所以samtools的版本也要选对。我实测下来，samtools 1.9到1.15之间的版本跟VarScan 2.4.4配合最稳定，太新的samtools 1.17+在mpileup输出格式上有细微变化，可能导致VarScan解析出错。
# 下载VarScan wget https://sourceforge.net/projects/varscan/files/VarScan.v2.4.4.jar # 确认Java版本 java -version # 确认samtools版本 samtools --version如果你用conda管理环境，也可以直接conda install -c bioconda varscan，但要注意conda版本可能不是最新的2.4.4。我个人还是推荐手动下载jar包，版本可控。
3.2 第一步：生成mpileup文件
VarScan不直接读BAM，而是通过samtools mpileup生成的中间文件来获取碱基计数信息。这一步有个关键细节：必须加上-B参数关闭BAQ校正，否则VarScan拿到的碱基质量会被samtools重新计算，导致某些真实突变被低估。文献里也明确提到了这一点，但很多教程都漏掉了。
# 对肿瘤样本生成mpileup samtools mpileup -B -q 20 -Q 20 -f reference.fa tumor.bam > tumor.mpileup # 对正常样本生成mpileup samtools mpileup -B -q 20 -Q 20 -f reference.fa normal.bam > normal.mpileup这里的-q 20是比对质量阈值，-Q 20是碱基质量阈值。对于肿瘤样本，我通常会把-Q降到15，因为FFPE样本的碱基质量普遍偏低，阈值太高会丢失有效信息。但也不能太低，低于10的话测序错误会明显增加。
3.3 第二步：单样本SNP和Indel检测
如果你只有肿瘤样本没有配对正常样本，可以用mpileup2snp和mpileup2indel模式。这两个模式的输出是VCF格式，但字段含义跟GATK的VCF略有不同，需要特别注意。
# SNP检测 java -jar VarScan.v2.4.4.jar mpileup2snp tumor.mpileup \ --min-coverage 10 \ --min-reads2 3 \ --min-avg-qual 20 \ --min-var-freq 0.05 \ --p-value 0.05 \ --strand-filter 1 \ --output-vcf 1 > tumor.snp.vcf # Indel检测 java -jar VarScan.v2.4.4.jar mpileup2indel tumor.mpileup \ --min-coverage 10 \ --min-reads2 3 \ --min-avg-qual 20 \ --min-var-freq 0.05 \ --p-value 0.05 \ --strand-filter 1 \ --output-vcf 1 > tumor.indel.vcf跑完之后别急着高兴，先看一眼VCF里的FILTER列。VarScan默认会把所有位点标为PASS，即使某些位点明显有问题。所以必须自己写脚本或用手动过滤，把SOMATIC、GERMLINE、LOH这些标签搞清楚。
3.4 第三步：配对样本的体细胞突变检测
这才是VarScan的看家本领。somatic模式需要同时输入肿瘤和正常的mpileup文件，输出会区分Somatic、Germline、LOH和Unknown四种状态。
java -jar VarScan.v2.4.4.jar somatic \ normal.mpileup \ tumor.mpileup \ output_prefix \ --min-coverage 10 \ --min-coverage-normal 8 \ --min-coverage-tumor 10 \ --min-var-freq 0.05 \ --min-freq-for-hom 0.75 \ --normal-purity 0.8 \ --tumor-purity 0.5 \ --p-value 0.05 \ --somatic-p-value 0.01 \ --strand-filter 1 \ --output-vcf 1这里有几个参数需要根据实际情况调整：--normal-purity和--tumor-purity如果你不知道确切值，可以先用默认的0.8和0.5，后续再根据结果微调。--min-freq-for-hom是判断纯合突变的最小频率，默认0.75，对于肿瘤样本可以降到0.6，因为肿瘤异质性会导致纯合突变的频率被稀释。
跑完之后会生成两个文件：output_prefix.snp.vcf和output_prefix.indel.vcf。每个VCF里的STATUS列会标明Somatic、Germline、LOH或Unknown。只保留Somatic的位点，其他状态要么是胚系突变，要么是杂合性缺失，跟体细胞突变分析的目标不符。
3.5 第四步：多轮过滤与假阳性控制
VarScan的原始输出假阳性率不低，这是文献里也承认的事实。我一般会做以下几轮过滤：
第一轮：硬阈值过滤。用awk或bcftools把Somatic状态、变异频率≥0.05、支持读段数≥3、总深度≥10的位点筛出来。
# 提取Somatic位点 grep "Somatic" output_prefix.snp.vcf > somatic.snp.vcf # 用bcftools做频率和深度过滤 bcftools filter -i 'FORMAT/AD[0:1] >= 3 && FORMAT/DP[0:1] >= 10' somatic.snp.vcf > filtered.snp.vcf第二轮：链偏倚过滤。VarScan的--strand-filter 1已经做了一部分，但有些位点仍然会漏网。我习惯用bcftools的+strand插件再查一遍，或者直接看VCF里的SOMATIC字段中的链支持数。
第三轮：读段位置偏倚过滤。如果变异位点集中在读段末端，很可能是比对错误。可以用bam-readcount工具统计变异位点在不同读段位置的分布，如果超过70%的支持读段都在末端10bp内，直接丢弃。
第四轮：功能注释后的人工核查。用ANNOVAR或VEP注释后，重点关注外显子区域的错义突变和无义突变，对于内含子或基因间区的突变可以适当放宽标准。我一般会把所有Somatic突变按基因和功能分类，然后对高频突变基因（如TP53、KRAS、EGFR）的位点逐一用IGV可视化核查。
4. 常见问题与排查技巧实录
4.1 为什么我的VarScan跑出来全是Unknown状态
这是新手最常见的问题。Unknown状态意味着VarScan无法判断该位点是体细胞还是胚系来源，通常是因为正常样本的测序深度太低或者肿瘤样本的变异频率跟正常样本太接近。解决办法有两个：一是提高正常样本的--min-coverage-normal阈值，比如从8提到15；二是检查正常样本的BAM文件是否用了跟肿瘤样本相同的参考基因组和比对参数。我遇到过好几次是因为正常样本用了hg19而肿瘤样本用了hg38，导致染色体坐标完全对不上。
4.2 假阳性率太高怎么办
VarScan的假阳性主要来自三个方面：测序错误、比对错误和样本污染。测序错误可以通过提高--min-avg-qual和--min-reads2来压制；比对错误需要检查参考基因组版本和比对工具的参数，特别是Indel附近的区域；样本污染则比较麻烦，如果正常样本里混入了肿瘤DNA，会导致大量胚系突变被误判为体细胞突变。我一般会用VerifyBamID先查一下样本污染率，超过5%的话建议重新建库。
4.3 低频突变漏检严重怎么调
如果你做的是ctDNA或肿瘤异质性研究，目标突变频率可能低到1%甚至0.5%。VarScan默认的--min-var-freq 0.01虽然能覆盖这个范围，但假阳性会爆炸。我的经验是：把测序深度提到至少500×，然后用--min-reads2 5和--p-value 0.01双管齐下。另外，--min-avg-qual可以适当降到15，因为低频突变的支持读段本来就少，质量阈值太高会直接把它们筛掉。还有一个技巧是用--min-coverage-tumor 50确保只有高深度位点才进入分析，这样即使频率低，统计检验的效力也足够。
4.4 VarScan跟GATK的结果差异太大怎么解释
这是很正常的现象，因为两个工具的统计模型完全不同。GATK用的是贝叶斯模型，倾向于保守，假阳性低但假阴性高；VarScan用的是频率阈值加Fisher检验，倾向于敏感，假阳性高但假阴性低。我一般会把两个工具的结果取交集作为高置信集，取并集作为候选集再做后续验证。如果非要选一个，肿瘤样本用VarScan，胚系样本用GATK，这是我踩了无数次坑之后总结出来的经验。
4.5 运行速度太慢怎么优化
VarScan本身很快，慢的是samtools mpileup这一步。如果你的BAM文件很大，可以用-r参数按染色体拆分并行跑，最后再合并。另外，mpileup的时候加上--max-depth 10000可以避免某些高深度区域拖慢整体速度。我实测过一个50×的全外显子组数据，单线程跑mpileup大概需要40分钟，拆成24条染色体并行跑只要5分钟。
5. 个人实操心得与参数调优经验
5.1 肿瘤纯度未知时的参数策略
很多临床样本的肿瘤纯度是未知的，这时候直接设--tumor-purity 0.5可能会漏掉低纯度样本的突变。我的做法是先用默认参数跑一遍，然后根据结果里的变异频率分布反推肿瘤纯度。如果大部分体细胞突变的频率集中在20%-30%，说明肿瘤纯度大概在40%-60%；如果集中在5%-10%，纯度可能只有20%左右。然后根据反推的纯度重新调整--min-var-freq，比如纯度20%时把阈值降到0.03，纯度60%时保持0.05即可。
5.2 FFPE样本的特殊处理
FFPE样本的DNA会有脱氨损伤，导致C>T的假阳性突变特别多。VarScan本身没有专门处理FFPE的模块，但可以通过降低--min-avg-qual到15和增加--min-reads2到5来平衡。另外，我习惯在过滤阶段把所有的C>T和G>A突变单独标记出来，如果某个样本的C>T突变占比超过总突变的40%，就要警惕FFPE损伤的影响。有条件的话，可以用FFPEFilter或SOBDetector做预处理。
5.3 链偏倚过滤的实操细节
VarScan的--strand-filter 1会过滤掉正负链支持比例严重失衡的位点，但它的算法比较简单，只检查支持变异的读段是否来自两条链。我遇到过一些位点，正链支持10条、负链支持0条，VarScan会直接过滤掉，但实际上这个位点可能是真实的，只是因为测序文库的链特异性偏差。这种情况下，我会用--strand-filter 0重新跑一遍，然后手动检查这些位点的IGV图，如果变异在两条链上都有少量支持，只是比例不均衡，可以考虑保留。
5.4 与下游注释工具的衔接
VarScan输出的VCF格式跟标准VCF有些差异，特别是SOMATIC字段里的信息需要解析后才能被ANNOVAR或VEP正确识别。我一般会先用varscan2vcf脚本做格式转换，把SOMATIC字段拆成TUMOR_DP、TUMOR_AD、NORMAL_DP、NORMAL_AD等标准字段，然后再做注释。另外，VarScan的Indel表示方式跟GATK不同，它用的是+/-而不是REF/ALT，注释前需要用bcftools norm做左对齐和归一化。
5.5 一个真实的踩坑案例
有一次我跑一个肺癌配对样本，VarScan输出了2000多个Somatic SNP，我一看就知道不对劲。排查了半天发现是正常样本的BAM文件里混入了肿瘤样本的读段，导致正常样本的变异频率也被拉高了，VarScan把很多胚系突变误判成了体细胞突变。后来用VerifyBamID一查，污染率高达15%。重新建库测序后，Somatic SNP降到了80多个，跟预期相符。这个教训告诉我：VarScan的结果对样本质量极其敏感，跑之前一定要做质控。
6. 写在最后
VarScan这款工具虽然老，但它在肿瘤体细胞突变检测这个细分场景下的表现依然可圈可点。文献里的统计模型设计、参数推荐值和过滤策略，放到今天来看仍然有很强的参考价值。我个人的建议是：不要盲目追新工具，先把VarScan的somatic模式跑通、跑透，理解每个参数背后的生物学意义，再去看其他工具的设计差异。这样你不仅能得到更可靠的结果，还能在遇到问题时快速定位原因。
如果你正在做肿瘤panel或全外显子组的体细胞突变分析，不妨把VarScan加入你的工具清单，跟GATK或Strelka做个对比。我的经验是，VarScan在低纯度、低深度样本上的召回率优势明显，但需要配合更严格的过滤策略。最后再分享一个小技巧：把VarScan的--p-value设成0.01而不是默认的0.99，能直接砍掉一半以上的假阳性，而且几乎不影响真突变的检出。这个参数调整是我在几十个样本上反复验证过的，你可以直接抄作业。
