上周和某团队碰一个AI辅助古籍整理的项目，争论到一半，分歧根本不是模型效果，而是“什么算一条正确记录”：一位文史背景的同事认为断句、句读、版本异文应当完整保留在数据里，算法同学却说这些是噪音，去掉之后准确率才上得去。这个冲突让我突然意识到一件被技术讨论长期忽略的事——我们在讨论AI的时候，其实一直站在某种“阐释权”的争夺现场，只是没人给它起名字。
我理解的“AI元人文”，并不是“用AI做人文学科研究”这种拼接式的交叉学科，而是借用人文那套追问意义、来源、权力与边界的方法，去审视AI系统本身：AI是如何获得意义的？模型的解释权掌握在谁手里？当模型反过来给人打标签、画画像时，人还能不能说话？这个视角下会站着一对互相凝视的主体：人是阐释者，用指标、数据集、语料去定义AI；AI又是被阐释者，同时也常常反向成为阐释者，用分类、推荐、评分去重写人的面貌。这篇文章想把这层双向关系彻底拆开，结合我在一些真实项目里踩过的坑和摸索出的方法，谈谈怎么把一套AI系统做成“双向可对话”的系统，而不是单方面定义一切的暗箱。无论你做的是教育产品、内容推荐、知识管理还是企业服务软件，这套思路大概率都适用。
1. 从“工具”到“准主体”：AI的意义到底由谁说了算
1.1 每一次“AI评估”，本质上都是一次阐释行为
传统工程视角下，AI是一个待测对象。我们写测试集、跑指标、对比baseline，然后得出结论：这个模型“能用”或“不能用”。这套流程看起来非常客观，但很少有人追问一个前置问题：测试集本身是谁定义的？标注规范是怎么定的？边界case由谁拍板？
我见过一个古文OCR项目，字符准确率已经跑到98.2%，看上去很漂亮。可是把错误类型单独拆出来看，发现最要命的问题是“整句脱落”——模型会把一整段话识别成空白或者合并到上一行，而这类结构性错误在整体字符错误里的占比虽然只有0.8%，但对古籍整理来说，这是绝对不能容忍的。团队一开始用“字符准确率”这个通用指标评估，方向就偏了，因为指标本身就预设了“逐字比对”才是正确答案。后来改成“句子完整性 + 字符准确率 + 人工抽检”三合一，问题才暴露出来。
这个例子说明，任何指标都是一种阐释框架：你选什么指标，就等于你从哪个角度去解释AI的能力。没有放之四海而皆准的客观指标，只有适不适合当前语境、能不能代表真实需求的指标。这句话听起来像哲学，但落回项目里就是很实际的取舍问题。
1.2 标注数据不是镜子，而是一群人的“解释”被固化下来
数据标注是AI生产链路里最容易被低估的一环。很多人以为标注就是在给客观事实贴标签，比如“这张图里有只猫”“这句话是正面的”，但其实大量标注任务根本没有绝对标准。同样是“这句评论是否包含讽刺”，性别、年龄、使用语境不同，判断结果可能完全不同。标注规范在这个意义上，就是一群人用他们的常识和偏好去解释世界，然后再把这个解释烧录进训练集。
我做内容审核类系统时遇到过一件事：平台原有的“有害言论”标注里，“政治敏感”和“恶意争吵”边界模糊，同一个帖子，审核员A标为前者，审核员B标为后者。最终采取多数投票，但投票本身不能说明哪边更正确，只能说明在那一刻、那一组人里，哪种解释占了上风。所以，把“标注一致性”当成质量高低的唯一标准是有风险的：一致性高，只能说明这群标注员的解释互相趋同，并不代表解释是好的、公正的。
落到操作上，我自己现在做训练集管理，一定会额外追问三个问题：这份标注规范是谁写的？规范和真实的终端使用场景之间隔了几层？有没有几个“反例”和“边缘case”被故意放进标注说明里，防止标注员把解释权悄悄集中在个人偏向？这三个问题看着琐碎，实际上是在防御“阐释者单向权力过大”的风险。
1.3 反向凝视：模型开始给人类做阐释
这个逻辑再往前走一步，就是标题里“被阐释者”的另一面：当系统足够强大，AI不再只是那个被测试的对象，它成了主动的解释者。用户行为被模型映射成“高转化人群”“低价值用户”，求职简历被解析成“稳定性差”，文章被判定为“情绪化表达”。每一类标签背后都是一整套对人的解释。
这类解释最大的问题不是不准，而是不对称。人被标签化之后，几乎没有一个通畅的渠道去质疑标签本身：为什么这个用户被标记为“羊毛党”？规则是怎么推导出来的？系统给出这个判断的证据是什么？大多数场景下，用户根本没有接口去追问。于是“被阐释者”陷入了一种结构性沉默：解释权完全在系统一侧，人的身份变成了“被系统说了算”。
所以我认为，“AI元人文”真正要关心的，不是技术炫技，而是这套双向解释结构里，权力是不是太失衡了。技术可以在很多方向上继续跑，但如果不先正视这个张力，后面做的所有“智能”都可能建立在草率的定义之上。
2. 作为阐释者的我们：定义AI时最容易掉进去的三个盲区
2.1 盲区一：指标挑错了，AI看起来差实际还行，或者看起来好实际很危险
上面古籍项目的例子已经说明了指标错位，但我想再补一个两类错误不对称的经典场景：医疗辅助诊断系统。这类系统出现的“漏诊”——把阳性判成阴性，和“过度告警”——把阴性判成阳性，代价完全不一样。假如只用“准确率”作为阐释框架，模型会把多数类样本学好，然后得到一个虚高的数字，但漏掉少数但致命的样本。
正确的做法是先画混淆矩阵，再看为不同错误分配什么权重。这等于说，我们在“用一套价值观去阐释AI”。比如某团队会明确约定：宁可让系统多发出两次无意义的告警，也不能让它漏掉一次真正的异常。这不是数学公式里自动长出来的东西，而是人的价值判断先行的结果。
所以我在这类项目里会要求团队写一份“指标选择说明”，写明为什么选这些指标、这些指标背后的倾向是什么、可能会掩盖什么问题。听起来麻烦，但等模型上线出了问题，往回查的时候，这份说明能省掉大量扯皮。
2.2 盲区二：数据集里的“众人偏见”被当成了基准真相
数据集的权威性有一种隐秘的魔力，一旦某些标签写入基准数据，后来人就会把它当“gold standard”来用。但很多数据的来源本身就有筛选偏差。比如众包标注平台上的标注者，大部分是年轻、每天有大量在线时间的人，他们的语感、审美、价值判断，天然倾向于某一类亚文化。拿这批人标注出来的“幽默感”“正能量”“友好度”，去适配全年龄用户群，其实是在强行给不相关的人群灌输另一套解释逻辑。
碰到这种情况，我不会直接改标注规则，而是先做一个“标签分布对比分析”——把模型在几个不同人群样本上的输出分布拉出来，看看差距是否大到值得干预。有一次做阅读推荐系统，发现“经典文学”被模型打上了“沉闷”“高门槛”的标签，数据库里大量来自年轻人的反馈，而中老年读者对此完全不同意。把“是否读过原著”加进特征后，这类误判少了90%。这就是在被阐释者还没有发声前，数据偏见已经先替它做了解释。
2.3 实操：用“双轨评估表”抵消阐释偏差
既然阐释框架注定存在，与其假装它不存在，不如把框架明牌摊开。我从去年开始在自己的项目强制使用一张“双轨评估表”，左边是客观指标，右边是解释偏差审查项。客观指标管模型好不好用、跑得快不快；解释偏差审查管模型的定义是不是被某一种视角绑架了。
下面是一张简化版，可以直接抄：
| 维度 | 客观指标轨 | 解释偏差审查轨 |
|---|---|---|
| 核心问题 | 模型对不对、快不快、稳不稳 | 模型对“谁”是对的？谁被忽略了？ |
| 常用工具 | 准确率、召回率、F1、延迟 | 人群分层的错误率差异、边缘case清单 |
| 检查节奏 | 每次训练迭代都看 | 每两周或每个里程碑审查一次 |
| 参与角色 | 算法、测试 | 产品、运营、法务、外部志愿者 |
| 输出物 | 指标报告 | 偏差审查记录、修订建议 |
这张表的核心作用是逼团队回答一个问题：“如果换一群人来定义正确，结论会变吗？” 大多数时候结论当然会变，但至少在填表的过程中，大家会意识到自己的阐释视角是什么，而不是一脚油门踩到底。
3. 当AI成为阐释者：被标签化的人类，如何要回自己的声音
3.1 从“服务”到“定义”：AI画像的温水效应
人一旦被系统归类，时间久了就会开始按系统的分类来理解自己。社交媒体看到推荐标签“你关注的领域：美食、科技”，你甚至会感到一种被理解的幸福。但这种被理解，也是一种被定义。模型给出的不是你的全部，只是它从行为碎片里挑出来的少数几条规则。
有一次某团队做面向大学生的个人发展工具，AI会给用户生成“能力画像”，比如“你适合往研究型方向发展”“你不擅长团队领导”。这个工具在测试阶段好评率很高，但后续数据分析发现，相当一部分用户会按画像给自己设限，放弃一些本来愿意尝试的路径。画像写得越自信，用户越难反驳。这就是“被阐释者”的温水效应——被定义者不仅沉默，还会渐渐相信自己确实只值这个定义。
所以后来在设计任何带“个人画像”功能的产品时，我特别看重两件事：一是画像是用概率分布的措辞，还是用确定性的措辞？二是画像能不能被用户一键展开、查看证据、提出申诉？“你属于高潜质人群”可以写，“结合近30天的项目落地效率，系统判断你的优势在于执行力”则更好，因为后者留下了可以被追问的空间。
3.2 被阐释者面临的三重困境：看不见、不能质疑、无法退出
把所有带AI判断功能的产品拉齐来看，被阐释者的困境几乎都可以归纳成三个词：不可见，不可质疑，不可退出。
“不可见”是指用户不知道系统基于哪些信息得出某个结论，决策链路全是黑箱；“不可质疑”是指产品不提供反馈入口，或者提供了但没有实际回路——申诉石沉大海；“不可退出”最隐蔽：即便用户改了资料、删了行为记录，历史模型还可能保留旧的中间权重，代表他的旧画像继续影响推荐分发。
要拆掉这三堵墙，技术上都做得到，只看产品愿不愿意。我见过一个反面的例子：某个内容平台做了自动“创作者等级”评估，模型把一位擅长长文但更新频率低的作者判定为“活跃度不足”，等级一路降，最后作者自己都放弃了写作。平台方主观上没想过伤害任何人，但系统在阐释这位作者时，完全无视了“长文本来就更新慢”这个背景，而且作者没有任何申诉通道。这类事积少成多，会变成平台对创作者的隐性管理，而管理的规则却从未被公开讨论过。
3.3 实操：给被阐释者配置“最小可申诉机制”
很多团队听到“申诉机制”会觉得太重，认为只有银行、政务系统才需要。但其实可以做一个轻量版，三样东西就够：
第一，每条关键结论都必须附带“证据列表”。无论是用户画像还是风险评分，界面后面都要挂着一个可以展开的列表，说明“我们基于哪些特征得出了这个结论”。哪怕只是最近一周的登录时段、行为类型、内容偏好片段，都必须列出来。
第二，提供“异议按钮”，而且异议必须进人工复核队列，不是自动回复。复核时不需要解释所有算法细节，只需要让用户感觉到他的声音被听见了。哪怕是冷冰冰的“你的反馈已进入复核，预计x个工作日”，也比石沉大海好得多。
第三，建立“标签豁免机制”。如果用户举证某个标签确实不符合他的情况，这个标签应当在整个模型推理链路里被暂时降权，而不是留在权重里继续生效。这个机制只要在特征层加一个mask就能实现，成本很低，却能让被阐释者产生真实的掌控感。
这三个功能合到一起，就构成了一条最基本的“被阐释者权利基线”。我始终觉得，一个连最基本申诉入口都没有的智能系统，无论准确率多高，都只能说完成了一半工作。
4. 双向阐释走向落地：把AI项目设计成“对话式”而不是“定义式”
4.1 对话式工作流：让两种解释权互相校准
单向定义式的AI系统，特征是“模型输出，用户接受”；双向对话式的AI系统，特征是“模型输出 + 人可反馈 + 模型调整”。这不是产品口号，而是可以通过工作流强制落地的。
我参与过一个知识社区的“AI阅读助手”项目，最初版本的逻辑很简单：用户上传一篇文章，AI自动生成摘要、提炼重点、打上“文献类型”标签。使用一段时间后发现三个问题：一是摘要经常丢掉作者最在意的前提条件；二是“重点句”判定过于依赖词频，忽略了作者故意用转折结构埋下的核心观点；三是文献标签有时和作者自我定位明显不符。
技术团队的第一反应是“继续调模型”。但产品侧做了一个决定：把摘要和标签都加上“反馈按钮”，用户可以选择“这个摘要漏了内容”“标签错误”“重点判断不对”，并允许用户提交一段自己的理解文本。三个月后，这批反馈被做成微调数据集，第二次迭代的效果提升非常大——与其说模型变聪明了，不如说用户通过反馈通道介入了解释权的分配。
4.2 原则一：一切结论都要能追溯到“解释来源”
“可追溯”听起来像数据治理的术语，但它对双向阐释的意义更基础：没有溯源，就没有对话的前提。用户说“你这个判断错了”，系统如果连自己依据什么都说不清，就只能用“这是模型学习的规律”来搪塞，对话不可能真正发生。
实操层面，我常用的方案是把推理过程落成一份半结构化的JSON日志，记录模型在每一个环节用到了哪条规则、哪个特征、哪一段文本作为证据。日志不需要公开原始模型权重，但需要能被产品端解析成人类可读的解释卡片。做信贷风控时，解释卡片会写“收入稳定性近12个月出现X次波动，其中Y次发生在近3个月”，比直接显示“评分C”好得多。做内容推荐时，解释卡片会显示“推荐这篇文章是因为你最近收藏了同主题的另一篇”，而不是冷冰冰的“猜你喜欢”。
这里有一个细节：可追溯不等于可解释，但有追溯才有解释的原料。如果系统从一开始就不记录证据，事后再补解释只能是模型自己的向量化解释，这种解释对普通用户来说等于没说。
4.3 原则二：标签要能“撤回”和“重写”，定义永远保留修订空间
模型生成的任何标签，都不应该是永久性的。“永久性”会放大被阐释者的无力感，因为人会用静止的标签来框定流动的自我。
我习惯在标签管理系统里加入“生命周期”字段。每个自动标签都带一个生成时间、有效期、置信度、证据来源，并且支持人工覆写。举个例子，教育产品的“学习能力评估”，如果只根据课程完成率、答题速度判断，很容易把慢热学习者定义成“反应慢”。但如果标签本身可以被导师手动修正，并且修正记录会进入后续模型的训练调整，整个系统就呈现出一种“结构性的谦虚”。
重写机制不必做得特别复杂，只要保证三点：人工修正后的标签优先级高于模型标签；模型需要能在一定时间内学习人工修正的规律；每次修正都要留痕，方便追溯为什么变了。这不是只做给用户看的样子，而是真正把系统从“定义工具”转成“对话工具”。
4.4 原则三：利益相关者要在评审桌上有一席之地
很多项目在做需求评审、算法评审、上线评审时，座位上全是工程师和产品经理，真正被模型解释的用户群体往往不在场。这是阐释结构失衡最容易的原因之一——解释者和被解释者之间根本没有面对面的机会。
我现在会强烈建议团队在每个里程碑评审中加入“用户阐释代表”。如果你做的是学生工具，就邀请不同学习风格的学生来提意见；如果你做的是求职辅助，就邀请不同行业背景的求职者来试用。他们不需要懂算法，只需要回答两个问题：“如果被系统这样描述，你会不会觉得被误解？你希望系统如何调整对自己的描述？” 这两个问题的答案，比模型再精调两个百分点更能避免项目方向失控。
有一回我参与某职场评估工具的设计评审，前期指标一路飘绿，算法工程师非常自信。结果请来几位转行求职者试用，当场发现模型把“频繁跳槽”一律解释为“稳定性差”，完全没考虑有些人跳槽是为了转向自己真正擅长的领域。如果没有这个座谈环节，这个有偏见的阐释框架就会被直接上线，成为一个可能影响别人职业机会的定义机器。
5. 常见问题与排查技巧实录
5.1 模型下判断太武断，怎么调低“阐释姿态”
经常有人问我：模型总是给出“你就是XX型人格”这种斩钉截铁的结论，怎么办？技术上最简单的方式是在输出层加一个软标签机制，把“硬分类”改成“概率分布 + 置信度措辞”。产品层可以规定措辞规范：低于某置信度区间时，系统必须使用“倾向于”“可能”“在你的行为数据中显得”这类限定语。这个细节能显著降低被阐释者的对抗感。
同时需要复查训练数据里是不是存在“确定性过强”的法则。比如第5.2节提到的盲目寻找最佳标签的问题。如果发现模型学到了一堆“只要A就一定是B”的规则，可以在训练阶段加入对抗样本，专门沉淀一些例外情况到数据里。
5.2 解释模块不可信：表面解释和真实决策逻辑不一致
解释模块最危险的问题是“看起来在解释，实际上在表演”。后端跑的是黑箱模型，前端套一个“决策树解释器”，结果解释路径和模型真实逻辑毫无关系，一旦用户真按解释去质疑，马上露馅。
排查方法我推荐“最小可验证样本”：挑五个模型最典型的高置信度判断，人工走一遍真实推理链，再和解释卡片对照，看两者是否对得上。对不上的地方，要么修解释器，要么换可解释模型，绝不能放任解释模块撒谎。除了技术纰漏，这个现象还揭示了一个更尴尬的事实：很多团队自己也不知道AI为什么这么判断，但迫于合规压力才塞了一个解释框。与其这样，不如把“不确定性”直接告诉用户，至少没有欺骗感。
5.3 术语漂移：项目上下语境对同一个词的理解不一样
“阐释”这件事在项目内部同样存在，最常见的就是术语漂移。比如“偏见”这个词：算法团队理解的是统计偏差，产品团队理解的是刻板印象，用户理解的是不被尊重。三个理解在同一场会议上互相交错，讨论越多越混乱。
我的习惯是建立一份“关键概念术语表”，把高风险词汇全部列出来，强制每个人都写下自己的定义，然后靠讨论收敛成项目词典。项目词典纳入版本管理，任何人在文档、代码注释、PRD里使用这些词，都必须严格按词典含义来。这不是学究做法，是非常实际的降低沟通成本的手段，也是防止“阐释偏差”侵入团队协作的第一步。
5.4 AI幻觉：阐释者捏造了不存在的依据
AI生成内容时的“幻觉”问题，在双视角框架下看，其实是一个“阐释者编造证据”的问题：模型为了给自己的结论一个解释，会凭空生成听起来很有道理的细节。遇到这种问题，光靠加大模型规模往往治标不治本，更有效的做法是“外部知识约束”——把生成流程接入可信知识库，强制模型只能引用知识库里真实存在的证据片段。
如果模型必须基于某个文档回答，就给它加上引用范围限制：“只能使用以上文档中的信息进行回答，不要添加外部记忆。” 每次输出后，再跑一遍“事实一致校验”，检测生成的实体、数字、日期是否能在源文档中找到对应。这套流程我给三个团队搭过，幻觉率平均能降下一大半，是性价比非常高的修复手段。
5.5 双视角问题速查表
| 症状 | 可能原因 | 快速排查法 | 参考手段 |
|---|---|---|---|
| 模型对某类人群总误判 | 训练数据的人群结构失衡 | 按人群拆分混淆矩阵 | 人群加权、补充采样 |
| 指标高但用户评价差 | 指标定义偏离真实需求 | 用户回访，请用户具体描述“哪里不对” | 重写评估指标、增加人工评审 |
| 用户觉得被冒犯 | 标签措辞过于武断且负面 | 拉出被判定为负面的典型标签，结合上下文重读 | 加入软标签和置信度措辞机制 |
| 解释和真实逻辑不一致 | 解释模块是表演型解释 | 最小可验证样本人工走查 | 换可解释模型、修解释器 |
| 用户申诉无门 | 单向输出逻辑设计 | 检查产品是否提供异议按钮 | 加复核队列、标签豁免机制 |
| 模型生成虚构证据 | 训练目标导致幻觉 | 在已生成文本中抽查实体与来源文档一致性 | 外部知识库约束 + 事实校验 |
| 团队内部对标准理解不一 | 术语漂移 | 收集各角色对关键概念的定义，对比差异 | 项目词典、纳入版本管理 |
这张表里没有一条是需要“推翻重做”的，绝大多数问题都能通过流程和机制的调整解决。关键是要有意识地放弃“AI绝对客观”的幻觉，把系统看成一种不断交换解释、不断修正定义的动态过程。
再说一点个人体会。自从用“阐释者与被阐释者”这个框架去复盘项目，我最大的变化是：不再天然站在算法一边。以前看到指标下跌，第一反应是模型精度问题；现在会先问一句“这是谁的指标？这个指标对谁有利，又遮蔽了谁？” 这种追问不能帮你立刻提升G点，但能帮你避开那种“看起来全线飘绿、上线后骂声一片”的致命事故。AI不是神谕，也不应该假装成神谕。承认每一次智能判断都携带视角、都含有人为权重，然后把这些视角明牌摊开，让被定义的人有机会回嘴，这才是我心中“AI元人文”的真正气质。
-物理系统)
