1. 先放下"大模型很火所以我能转"这个念头
1.1 被问过太多次"要不要转"之后,我发现大家问的不是一个问题
过去大半年,我被问过至少二十次类似的问题:"大模型现在这么热,我还在做传统后端/数据分析/产品经理,要不要转进去?"
一开始我以为大家问的是"大模型适不适合我",聊多了才明白,大部分人真正想问的是"这个方向是不是钱多、坑少、能快速上车"。这两件事差得很远。
大模型是一个很宽泛的领域。往细了分,有做基础模型的、做模型微调的、做部署推理优化的、做应用开发的、做数据构建的、做AI产品设计的,甚至还有专门做内容运营和模型质量评测的。这些岗位的工作内容、能力要求、学习成本、转行难度完全不同。"我想转大模型"这种说法,粗略程度约等于"我想转互联网"——不拆到具体岗位,任何讨论都是空谈。
所以我建议所有想做决定的人,先不要纠结"大模型值不值得转",而是先把这句话拆成几个具体问题:你想转的是算法方向,还是应用方向?你现在的技术基础能把哪条路走通的概率更高?你愿意投入的时间是三个月还是一年半?把问题拆到这个粒度,答案才会慢慢浮现。
1.2 三种典型转行动机里,至少有两种是危险的
这几年我观察到的转行动机,基本可以归成三类。
第一种是因为收入预期而来的。看到算法岗的薪资水平,觉得比现在的岗位高一个台阶,所以想转。这类动机最需要警惕,因为任何领域的薪资都是由供需关系决定的,高位薪资对应的是不可替代性。一个没有相关经验的新人想直接拿高位薪资,本质上是在和一群积累了多年经验的从业者竞争。如果没有足够扎实的技能储备,转行前半年的挫败感会非常强。
第二种是因为就业焦虑而来的。担心自己的老本行被大模型冲击,所以想跳到浪潮中心求个安心。这种动机的问题在于,它是被恐惧驱动的,不是被兴趣或者能力优势驱动的。人一旦被恐惧推着走,容易在技术选型、学习路径上频繁摇摆,今天看到一个方向火了就学那个,明天看到另一个说法又换赛道,时间花了不少,能力没有沉淀。
第三种是因为真的喜欢折腾技术、喜欢用模型做出东西而来。这种动机成功率最高。我见过的大多数转型成功案例,都有一个共同特征:他们在转行之前就已经写了若干个小项目,哪怕很粗糙,但是真动手做过。兴趣驱动的人会主动造轮子,会在一个问题上反复死磕,这类人缺的往往只是一个方向性引导,而不是动力。
判断自己属于哪一种,比判断"大模型火不火"重要得多。
1.3 一个被忽视的行业特征:算力越集中,普通人的机会越靠应用层
还有一个客观规律需要认清:大模型领域的核心技术工作,正在向极少数有大规模算力和数据储备的团队集中。
训练基座大模型这件事,门槛已经高到不是一个普通工程师或者小型团队能够复现的程度。光是一次完整的全量训练,就要涉及到成千上万张计算卡、复杂的分布式调度、数据处理流水线、强化训练环节等,这里面每一项都是重投入。对于手上没有充足算力和工程资源的个人来说,把"复现一个基座模型"当成转行目标,大概率会失望。
但这不代表普通工程师没有机会。算力集中的另一面,是模型能力变成了一种可以被低成本调用的公共基础服务。很多中小团队并不需要自己训练一个基础模型,而是直接调用现成的模型接口,在上面做业务和应用。这个环节产生了大量的应用型岗位:怎么让模型稳定输出业务要的结果、怎么做知识库、怎么控制成本和延迟、怎么评估效果、怎么处理错误输出。
所以对大多数人来说,真正可行的大模型赛道是"站在模型能力之上做工程和产品",而不是"从零做出一个模型"。这不是劝退,而是把力气用在命中率更高的方向。
2. 算法工程师的门槛不是"会调库",而是"能定义问题"
2.1 算法岗的真实工作内容,和网上宣传的不太一样
如果把算法工程师日常要做的事情拆开看,大概可以分成四块:数据处理、模型训练与微调、效果评估、上线后的回归监控。
数据处理是占比非常高的环节。很多人以为算法工程师天天在写模型结构,实际上一周里可能有两到三天在清洗数据、构造样本、分析错误案例。模型表现不好,很多时候不是结构设计有问题,而是数据里有脏样本、标注不一致、正负样本比例失衡。这个能力很难通过刷网课获得,必须亲手处理过一批脏数据才能建立直觉。
模型训练与微调是外界最熟知的环节,包括选择预训练模型、设置超参数、准备微调数据、跑训练任务、观察损失曲线等。这部分对人的工程能力要求很高,你需要理解显存占用、批大小、学习率、梯度累积这些概念在实际运行时的关系,还要会排查训练崩溃的问题。相信我,每一个从零开始跑过大模型微调的人,都在某个深夜处理过"Loss突然变成NaN"这类问题。
效果评估和回归监控则是最容易被忽视的环节。一个模型改了一版数据之后效果是变好了还是变差了,不能靠感觉,要有一套稳定的评测集和评估指标。很多算法新手对"精确率、召回率、困惑度"背得滚瓜烂熟,但到了真实场景里,怎么把业务目标拆成几个可量化的指标、怎么设计评估集避免过拟合、怎么做A/B实验,这些才是真正拉开差距的地方。
2.2 数学底子在算法岗的权重,比想象中大
很多想转算法方向的人会问:"数学不好能不能做?"
我的答案是:如果目标是做应用层算法,高中数学加大学基础的概率论和线性代数基本够用;如果目标是做模型结构设计、训练策略优化这类核心算法工作,数学要求会陡增。
具体来说,线性代数中的矩阵乘法、特征分解、奇异值分解,会直接出现在注意力机制的计算过程里;概率论中的条件概率、贝叶斯公式、交叉熵,决定你怎么理解模型的训练目标和评估口径;微积分里的梯度、链式法则,是理解反向传播的底层逻辑。不夸张地说,数学基础不好的人可能在调参时也能做出一些结果,但一旦遇到模型效果异常,根本没有办法从第一性原理出发去推断问题出在哪里,只能靠试错,效率极低。
这不是劝退。如果你愿意花半年时间把《线性代数》和《概率论》的核心章节捡起来,配合代码实现把每个公式过一遍,完全来得及。
2.3 算法岗的隐性门槛:论文复现与算力资源
除了硬技能之外,算法岗还有几个没有写在招聘信息里的隐性门槛。
第一是论文复现能力。很多算法面试会聊近期的工作,面官会问你对某个方法的理解、对比实验怎么做、消融实验的设计思路。如果你连经典工作都没有动手复现过,讨论就只能停留在概念层面,一问细节就露馅。复现一篇工作的意义不在于跑通代码,而在于你能独立完成"数据->训练->评测->分析"的完整闭环。
第二是算力资源。这可能是最现实的问题。个人想在本地训练一个像样的模型,一张普通显卡的显存可能连加载大一点的开源权重都吃力,更不用说做训练实验。没有资源,很多实际操作只能停留在理论和想象层面。解决思路有两个:一是尽量选择小尺寸模型和开源权重做微调,用低秩适配这类参数高效微调方法降低显存需求;二是考虑云端的弹性算力,按需租用,只在实验阶段开机,成本比想象中可控。
2.4 算法岗的转行路线应该怎么排
如果目标明确是算法方向,我建议按照这样的优先级来安排学习路径:先补Python和数据处理基本功,再学深度学习基础,然后动手跑一个完整的微调项目,最后补分布式训练和推理优化的知识。
第一步要认真做,但不需要无限期延长。Python语法、数据清洗、Pandas和NumPy这类工具,对于一个有编程基础的人来说,两三周就能上手。深度学习基础则要花时间把反向传播、常见网络结构、训练流程吃透,这部分可以用某个主流深度学习框架配合公开数据集做练习。
底子打好之后,一定要尽快进入微调项目实战。选一个开源的中小尺寸模型,准备一份领域数据,做一个垂直场景的微调,从数据清洗到训练再到评估完整走一遍。这个过程会逼着你把所有零散的知识串起来。最后再根据岗位要求去补分布式训练和推理优化,这部分通常不是转行前期的重点,但面试时能说出原理会加分。
3. 应用工程师的门槛在于"把模型变成产品",难点在工程化
3.1 应用工程师是当下转行性价比最高的大模型岗位
和算法岗相比,应用工程师的门槛更低、需求量更大、见效更快,这也是我通常建议转行者优先考虑的方向。
什么叫应用工程师?简单说,就是不自己训练模型,而是把现成的大模型能力集成到业务系统里,让它稳定、可靠、可控地完成具体任务。这个岗位的日常工作包括:设计提示词模板、搭建知识库检索管线、处理模型输出的格式化和后处理、设计错误兜底机制、控制接口调用的成本和延迟、建立一套评估方法持续监测效果。
很多人会以为"调用模型接口"有什么难的?真正做过一次生产级应用就会明白,难点根本不在那个接口调用,而在接口之外的一整圈工程问题。模型的输出是概率性的,同一个问题十次可能给出十个不同答案,你怎么保证业务场景下的稳定性?模型会一本正经地给出错误信息,你怎么识别并拦截?调用量大起来之后,成本怎么控制?回答延迟从两秒降到五百毫秒,靠的是什么?每一个问题都是工程问题,都需要踩坑才能学会。
3.2 从Prompt到知识库再到评估,每一步都有坑
应用工程师绕不开的三个核心技术点,分别是提示词工程、检索增强生成、效果评估。这三个点直接决定了一个大模型应用是"能跑的Demo"还是"能用的产品"。
提示词工程是最先接触的技能。很多人以为写Prompt就是"把需求写清楚",真要写好还需要很多细节:怎么给模型设定角色和边界、怎么把上下文组织成有利于模型理解的结构、怎么通过少量示例引导输出格式、怎么在输出里做约束避免跑题。好的Prompt工程师懂得把复杂任务拆成简单子任务,用链路去解决问题,而不是在一段话里塞满要求。
检索增强生成是应用工程师的第二项核心技能。一个通用模型并不知道你公司内部的业务数据,要让它基于私有知识回答问题,就要把资料切成片段、做向量化、存入向量数据库,用户提问时先检索相关片段再交给模型生成答案。听起来简单,实际做的时候会碰到切分粒度怎么定、检索结果相关性怎么保证、多路召回怎么融合等问题。我见过很多项目,模型本身没有任何问题,卡在知识库的召回质量上,答非所问。
效果评估是最后一个被想起来、却最容易决定项目生死的环节。没有一套覆盖各类典型问题的评测集,你就会发现这个模型上午表现很好、下午换了一版提示词后某些历史问题又出现了。搭建一个评测集,把高频问题、边界情况、错误案例都覆盖进去,每次改动后都跑一遍回归,才能对模型效果有掌控。
3.3 应用工程师的技能树:不深但广
应用工程师不需要像算法工程师那样深挖训练底层,但需要一套广度很高的技能树。
首当其冲的仍然是编程能力。至少熟练掌握一门服务端语言,能够独立写接口、做并发处理、处理异步任务。其次是基础的数据库和中间件知识,尤其是向量数据库、缓存系统,这些在搭建知识库应用时都会用到。再次是数据分析能力,能够从日志和评测结果里定位问题,用数据说话。
然后是对模型能力边界的认知。一个合格的应用工程师心里要有一张表:什么任务适合让大模型直接做,什么任务应该让传统程序来兜底,什么任务应该做成模型加规则混合的链路。这张表没有教科书会直接写出来,只能通过反复实践慢慢建立。
这里面有个心态上的坎:应用工程师很多时候并不是在写"惊艳的代码",而是在做大量的格式化、过滤、重试、兜底逻辑。这些工作很琐碎,但正是这些琐碎工作把一个不可控的模型变成一个可用的产品。想做应用方向的朋友,需要接受这种"脏活累活"。
3.4 零基础转应用工程师的三个月起步路径
如果你现在的技术背景是零基础或者偏基础的编程能力,一条比较稳妥的路径是这样安排的。
第一个月集中补编程和基础概念。选一门语言作为主线,把变量、数据结构、循环、函数、文件读写这些基础吃透,再用它写几个简单的命令行小工具。这个阶段不用追求底层原理,能写出能跑的程序就可以。
第二个月开始接触大模型应用开发。注册一个模型服务的账号,通过接口调用的方式做一个小应用,比如一个能根据关键词写文案的工具,一个能解析简历信息的脚本。这个过程会逼着你学会看文档、解析返回结果、处理异常。做完之后,一定要尝试把提示词写得更结构化,观察同样的任务用不同的Prompt得到的结果差异。
第三个月做综合项目。可以选一个真实场景,比如做一个面向个人的知识问答助手,把文档解析、向量化、检索、生成回答这一整条链路打通。做完并把它部署上线,哪怕只是自己在用。这个项目会成为你后续面试时最好的证明材料。
三个月之后,如果有人已经走过完整链路,大概率会发现自己真正欠缺的不是概念,而是工程细节。这时候再针对性地补数据库、缓存、部署等方面的知识,效率会高很多。
4. 从现状到入行:一套可执行的转行决策框架
4.1 先用一张"能力-兴趣"矩阵,判断你更适合哪条路
在投入大量时间之前,我建议你先做一个冷静的自我评估。评估维度只有两个:一是你现有的技术基础,二是你是否享受跟数据细节死磕。
如果你有扎实的编程基础、数学没有严重遗忘,并且对"为什么模型会这样输出"这类问题有天然的追问欲,那么算法方向值得尝试。算法岗需要长时间和训练日志、损失曲线、数据样本打交道,没有好奇心支撑很难坚持下来。
如果你的编程基础一般,或者兴趣点在于"如何用模型解决实际业务问题",那么应用方向几乎是为你准备的最优解。应用工程师不需要在训练细节里挣扎,但需要有很强的逻辑拆解能力和工程落地能力。
如果两个维度都不占,那就先不要着急决定。把时间花在写小项目上,用实际的产出确认自己的偏好,而不是对着岗位描述做脑内推演。很多人是在动手之后才发现自己真实偏好的。
4.2 用一次"三个月低成本验证"代替犹豫
不要试图想清楚一切再动手,这在快速变化的领域是做不到的。更靠谱的方式是设计一个为期三个月的验证项目,用最小的成本判断自己适不适合。
具体做法是:选定一个具体场景作为项目主题,例如"让模型自动整理会议纪要并提取行动项",然后从零开始把它做成一个完整可用的工具。过程中记录几个关键数据:你用了多少时间,卡在哪些环节最久,遇到了哪些让你想放弃的问题,解决后是不是有成就感。
这个验证项目结束之后,你要做的判断不是"我能不能找到大模型的工作",而是"我能不能接受这类工作的日常"。因为一旦入行,你每天的日常大概率就是处理数据异常、调试提示词、分析评测结果。如果验证期里这些内容让你感到痛苦,那转行之后的日子也不会好过;如果让你感到兴奋,那这条路基本可以放心走。
4.3 转行的时间成本,拆开算更诚实
我不建议用"一年之内转行成功"这种模糊的说法来做规划,更务实的做法是把转行时间拆成三段来估算。
从零开始学编程基础并做出第一个小项目,大概需要三到四个月,前提是保持平均每天两小时以上的投入。这个阶段没法压缩,编程是一项手上功夫,看再多的教程都不如自己写。
第二段是专项项目阶段,大概需要三到五个月。在这个阶段你会做大模型应用项目,积累作品集,同时逐步建立对模型能力的直觉。这个阶段的核心目标是产出两到三个拿得出手的项目,并且能清晰地讲出每个项目的技术选型理由和踩过的坑。
第三段是求职准备阶段,一到两个月。整理项目经历、梳理技术要点、针对可能的面试问题做模拟准备。如果你在项目阶段是真正自己做的,这段面试准备的效率会非常高。三段加起来,大约是八到十二个月。这不是一个令人兴奋的数字,但它是一个诚实的时间预期。任何人许诺你"三个月速成拿高薪",大概率都不值得相信。
5. 我在陪转行者过程中踩过的坑,以及一些可能对你有用的经验
5.1 最大的误区:花太多时间读论文,而不是跑项目
我见过不止一个转行者,一头扎进论文阅读里,收藏了几十篇大模型相关的工作,谈起某个机制头头是道,但一问到"你实际跑过什么模型、处理过什么数据",就沉默了。
论文阅读当然重要,但它对转行初期的价值被高估了。原因很简单:大模型的很多知识是体验式的,你在文档里看到一百次"模型有时会产生幻觉",都不如自己在项目里亲眼看到一次模型把不存在的资料引用得有模有样印象深刻。我在自己带项目时发现,真正让新人快速成长的不是论文,而是亲手把一条数据从原始状态处理成模型可用格式的过程。
如果让我重新安排学习顺序,我会把论文阅读放到项目遇到瓶颈之后。先动手做,做不出来的时候去查相关论文,带着问题读效率极高。纯粹为了积累知识去读论文,很容易陷入"好像都懂、动手全废"的状态。
5.2 项目经验里,最有说服力的不是"效果好",而是"问题清晰"
很多转行者在准备简历和面试时,会花大力气渲染项目效果的漂亮数字,比如"回答准确率达到95%"。但面试官真正关注的其实是另一件事——你能不能准确地描述自己在项目中遇到的问题,并且用合理的方法去解决它。
一个高质量的项目描述应该包含这几个要素:项目要解决的真实问题是什么、为什么选用这个技术方案而不是另一个、实际执行中踩到了哪个具体的坑、你是通过什么手段定位并解决它的、最后用什么指标验证了改进是有效的。
效果数字只是结果,定位问题并解决问题的过程才是能力的证据。不要美化自己的踩坑经历,真实地讲出来反而更有说服力。因为面试官自己也是从各种坑里爬出来的,一听就知道你究竟是亲手做过还是只看了教程。
5.3 最后一句实在话:任何时候开始,都来得及
我承认大模型领域的变化很快,今天热门的技巧可能三个月后就不再适用。但这恰恰是本领域最好的地方——因为变化够快,经验壁垒没有传统行业那么深。一个专心做了三个月应用项目的新人,在某些细分技能上完全可能比一个只读论文的老工程师更有竞争力。
所以,不要被"门槛很高"这四个字吓住。把问题拆细,选定一个具体的赛道,用三个月做出一个能跑的验证项目,你会发现所谓门槛,其实是一级一级台阶,而不是一面墙。
最后再分享一个我自己一直在用的方法:给自己定一个最低可行目标,比如"这周结束前,让模型稳定地把我指定的CSV文件转成JSON格式"。每当完成一个这样的小目标,你就往这个领域又迈了一步。大模型领域的转行,说白了无非是无数个这样的小目标连成的路。