大模型从“屁都不懂”到成功转型AI工程师，我是怎么做到的？
先说背景。我是半路出家，之前做的是跟AI八竿子打不着的行业，代码基础也仅限于大学里那点C语言和SQL查询。去年年初决定转行时，我连Python的装饰器都写得磕磕绊绊，更别提什么Transformer、注意力机制、LoRA微调了，那会儿听到“大模型”三个字，第一反应是“ChatGPT那个东西吗？”。从那个状态走到今天正式入职做AI工程师，前后花了大半年，中间踩过的坑、绕过的远路可以写成一本书。这篇文章不打算讲什么“三个月速成”的鸡汤，只想把这大半年里真正有效的学习路径、实战项目和求职要点拆开揉碎了分享出来。如果你也想从零基础往大模型方向转，或者刚入门不知所措，这篇内容应该能帮你省掉至少两个月的试错成本。
1. 先想明白：大家口中的“AI工程师”到底在做什么
决定转行之前，我最困惑的事情就是“AI工程师”这个岗位的定义太模糊了。同样是招聘网站上搜“大模型工程师”，有的要求精通模型训练底层原理，有的要求会调API就够，薪资范围能从一万五飘到五万。这种模糊定义对零基础选手来说特别危险——你连目标是什么都没搞清楚，很容易学了一堆用不上的东西，或者被网上各种“大模型入门必学XX”的焦虑营销带着跑。
1.1 岗位的真实分层：训练派 vs 应用派
我现在回头看，整个大模型就业市场其实可以粗暴分成两大类。第一类是“模型训练派”，日常工作围绕数据清洗、预训练、继续训练、对齐（Alignment）、评估模型能力，这些岗位通常偏好有深度学习底层功底的候选人，很多是算法研究员出身，学历门槛普遍偏高。第二类是“应用落地派”，也是我这大半年主要靠拢的方向，核心工作是把已有的基座模型（开源的或API形式的）接入具体业务场景，比如做知识库问答、写代码助手、客服机器人、文档信息抽取，日常工作涉及提示词工程、检索增强生成（RAG）、模型微调（Fine-tuning，但更多时候是LoRA这类轻量微调）、部署优化、效果评估。
1.2 零基础转行的最优切入点
如果你跟我一样是从零开始，我的建议是别纠结训练派。训练派的瓶颈在于数学和算力资源，仅仅是吃透反向传播和分布式训练就需要扎实的数学功底，而个人搞不到足够算力，实操经验也很难积累。应用落地派用的是“拿来主义”，基座模型已经由大厂和开源社区训练好了，你不需要重造轮子，只需要学会怎么用好它、怎么让它适应具体场景。这条路线的技术栈带着明显的工程属性，数学要求没有那么苛刻，更看重动手能力和对业务的理解，对转行者来说友好得多。我最终锁定的目标就是：能独立完成从需求分析到模型选型、再到应用开发和部署上线的全流程。
2. 学习路线怎么排：从“屁都不懂”到能看懂论文
确定目标之后，最需要的就是一条清晰的路。我那会儿最大的焦虑其实不是“难”，而是“不知道学什么是对的”，每天收藏一堆帖子，感觉什么都得学，时间全浪费在选择困难症上了。后来我按照一个做研发的朋友给的建议，把学习内容拆成三个阶段：补底子、学工具、追前沿。前两个月只做阶段一和阶段二，不看任何论文。
数学基础怎么补：把微积分、线性代数、概率论中跟机器学习相关的部分捡起来，重点理解求导、矩阵乘法、条件概率这些概念在模型里到底对应什么；不需要推导所有公式，但至少看到损失函数、梯度下降时心里不慌。
Python编程恶补：把函数、类、装饰器、生成器、异常处理全部过一遍，然后立刻转向数据科学三板斧——NumPy、Pandas、Matplotlib，建议直接通过写小脚本练手，比如用Pandas处理一个CSV文件并做可视化分析。
机器学习入门：这里我踩过最深的坑，就是一开始试图直接啃大模型。大模型是机器学习里的高阶内容，零基础直接上手会被大量概念劝退。我用两周时间快速过了一遍经典的机器学习知识，重点搞懂分类、回归、聚类这些基础任务，以及评估指标（准确率、精确率、召回率）的意义。
深度学习框架实操：选择PyTorch，因为它在大模型生态里占有率极高。关键不是看教程，而是动手训练一个小型图像分类模型，哪怕是在CPU上跑通CIFAR-10这样的小数据集，也能让你对训练流程建立起直觉。
三大件底座搭好之后，我把重点转向了大模型特有的技术生态。这里的核心是掌握HuggingFace这套工具链，包括数据集加载、模型下载调用、tokenizer的使用、微调脚本的阅读和修改。我自己跟着官方教程跑通了一个简单的文本分类模型的微调，虽然任务很简单，但整个流程走下来，对“加载预训练模型—准备数据集—训练—评估—保存”这条流水线就有了肌肉记忆。这一步走完，我开始尝试读一些大模型的科普文章和综述，逐渐理解Transformer架构、自注意力机制、因果语言模型这些概念。此时再回头看那些原本觉得高深莫测的术语，就能跟学过的知识串起来了。
3. 实战是唯一的捷径：我的四个练手项目
学完基础后，最危险的状态是“觉得自己懂了”。我见过很多转行者卡在“看教程都会，一动手就废”的阶段，原因就是缺少由浅入深的实战训练。这部分我花了整整三个月，先后做了四个项目，难度从简单到复杂。它们对我的面试帮助甚至超过了学历和背景。
3.1 项目一：基于开源大模型的本地知识库问答
这是我认为最适合零基础转行者的第一个完整项目。核心逻辑是：把一个文档（比如公司内部规章）切成小块，用嵌入模型转成向量存入向量数据库，用户提问时先做相似度检索，再把检索到的相关文本和问题一起扔给大模型生成回答。这个项目里我熟悉了文本分割的chunk_size设置、向量化、向量数据库的选型，以及最关键的Prompt组装逻辑。现在回看，RAG就是把大模型的“记忆”外挂到外部知识源上，工程上不难，但用好了非常实用，因为绝大多数企业内部AI应用做的是私有知识库问答。
3.2 项目二：用LoRA微调一个垂直领域对话模型
项目一做完，我开始接触微调。当时最困扰的问题是，直接全量微调一个模型需要极大的显存，个人电脑根本扛不住。后来了解到LoRA的原理：冻结原模型的参数，只在小部分旁路矩阵上做训练，相当于用很小的显存开销实现针对特定任务的定制。我在一个开源中文对话模型上用LoRA做了医疗问答方向的微调。实际操作中，数据清洗花了最多时间——网上下载的数据集噪声很大，需要过滤重复内容、去除非中文部分、统一格式。第一次训练跑了三小时后，模型在测试集上的输出还是乱码，排查后发现是学习率设置太高导致损失爆炸，调低之后效果显著改善。这个过程让我对超参数调整有了直接体感。
3.3 项目三：接入业务系统的模型服务部署
项目三我选择了“模型落地”这个方向，因为很多转行者忽略了一个痛点：模型在笔记本上跑通demo很容易，但要在服务器上提供稳定的API服务，完全是另一回事。我在本地用FastAPI写了一个简单的模型服务接口，把项目二的微调模型包装成可调用的REST API，同时加了基本的并发处理和错误重试机制。随后用Docker打包镜像，部署到一台云服务器上，并通过压力测试工具模拟了500个并发请求，发现响应时间爆炸式增长。排查后发现是GPU显存不足导致频繁交换，解决方案是把模型换成量化版本（从FP16量化到INT8），速度提升了两倍多。这个项目让我明白了工程化落地的完整链路。
3.4 项目四：自动化评测大模型输出效果
最后一个项目相对轻量，但对面试非常重要——如何客观评估模型效果。很多人自说自话“我的回答看起来不错”，这在真实业务场景里站不住脚。我做了一个自动化评测小工具，把测试问题集合输入给不同模型（比如微调前的基座模型和微调后的模型），分别生成回答，再用规则指标（如关键词命中率、回答长度、格式正确性）加人工抽评的方式，输出一份对比报告。这个尝试让我在面试聊项目时，能自信地说出“我的方案比基线方案提升了百分之多少”，有数字支撑的简历远比空泛描述更有说服力。
4. 求职那些事：简历、面试题和心态调整
项目做完，就要开始面对找工作这个终极大关。这个阶段我踩过的坑主要有三个：简历写得像课程表、面试只准备深度学习原理不准备工程问题、收到一个Offer就急着签。
4.1 简历怎么包装“零基础”这个标签
转行者最容易犯的错，就是恨不得把学过的东西全写进简历里。我的经验是：宁可只写三个项目，也不要堆砌课程列表。简历是项目经历的呈现，而非学习心得的汇总。项目描述的写法值得注意，我采用“背景—方案—结果”三段式，其中方案部分重点描述自己面临了什么限制（比如显存不足、数据噪声大），以及如何解决。面试时发现，面试官非常吃“带着限制做方案”这一套，因为这比单纯的“我会用XX框架”更有说服力。至于学历和专业背景，诚实填写即可，大部分面试官更关心的是你怎么思考、怎么解决问题，而非你是不是科班出身。
4.2 面试中最高频的20个问题
我把自己面试中遇到的真实问题整理成了一份自查清单，分享几个出现频率最高的：
- 大模型的幻觉问题是什么？你怎么缓解？
- 说一下RAG的完整流程，哪些环节容易出问题？
- LoRA的原理，为什么不直接全量微调？
- 显存不够时你一般怎么做？
- 如何评估一个问答系统的效果？
- 训练时loss不下降，你的排查思路是什么？
- 怎么设计Prompt让模型输出JSON格式？
- 向量化用什么模型？中文和英文嵌入有什么区别？
这里特别提醒一下：面试官问这些题，不完全是为了考知识点，而是在观察你的表达思路。哪怕你的答案不完整，只要展现出清晰的排查逻辑，也能拿高分。提前准备一个“为什么转行”的故事线也有奇效，核心是把这个选择说得理性且笃定，而不是“感觉AI很火就来试试运气”。
4.3 谈Offer的几点个人体会
作为零基础转行者，薪资预期要放平，第一份工作的重点应该是有真实业务数据练手的机会。我的体会是，不要只盯着大厂，我最终拿到的优秀Offer来自一家做企业内部智能化改造的中型公司，团队不大，但核心业务就是我把大模型接入不同内部系统，这让我能快速积累全流程经验。比起一个听起来很响的招牌，一个能让自己上手做的环境对转行初期更重要。
5. 零基础转行避坑清单：没人告诉你的那些事
最后分享几个我这半年里流过泪才明白的经验，每一条都是真金白银换来的。
5.1 卡在环境配置上时：先学会“抄作业”再理解原理
转行初期，我耗费大量时间纠结“为什么这样写”，结果连一个demo都跑不起来。后来我改变了策略：先完整跑通别人的代码，部分理解不了的地方先标记，等跑通之后再逐个理解。事实证明，很多问题跑通了就自然理解了。别怕“抄作业”，抄多了自然会写。
5.2 不要沉迷“模型学得多厉害”，工程能力同样重要
面试考察的内容不只是深度学习原理。实际工作中，AI工程师除了跟模型打交道，还要跟数据库、后端接口、部署运维打交道。我建议转行者从第一天起就有意识地学一点工程相关知识，至少要熟悉Linux基本命令、Docker用法、HTTP接口原理、基础数据结构。这些内容平时看着不起眼，但关键时刻能让你从“算法选手”中脱颖而出。
5.3 关于硬件：没有高配显卡也能学
我自己的电脑只有一张中低端显卡，显存只有6GB，训练大模型根本不够。但我用的开源方案是“CPU训练小模型+云GPU平台租用”，学习阶段用小模型跑通流程，遇到大规模训练再花钱租云GPU按小时付费。事实证明，绝大多数转行者卡住的原因不是显卡太差，而是知道能用什么替代方案。先跑通再调优，别一开始就纠结设备。
5.4 建立“输出驱动输入”的学习闭环
转行学习最大的敌人是“囤积癖”：收藏了无数教程、关注了无数公众号、买了N门网课，但实际动手时间很少。我的做法是强迫自己每周产出一篇技术笔记或一段可复现的代码，发到自己的技术社区账号上。不是为了涨粉，而是给自己制造“今天必须搞懂一个细节”的外部压力。谁能坚持输出，谁的学习效率就是纯输入派的数倍。
写到这儿，已经把我这大半年最重要的方法论都倒出来了。一轮拉下来，核心其实就是几个关键词：锁定应用方向、搭好基础底座、做真实项目、用工程视角看待问题、面试时讲清楚项目细节。个人摸索最深的体会是，转行大模型AI工程师这件事，难的地方绝对不是所谓的高深理论，而是信息筛选和坚持动手——市面上九成的信息噪音，其实都是在教你“看起来努力”，而真正有效的路径往往朴素得让人不敢相信：确定方向，动手做项目，解决具体问题，把产出讲出来。如果你现在正处于“屁都不懂”的阶段，请相信我，半年前我也是这样的人。只要路线清晰，每天推进一点点，半年后你也可以坐在工位上写模型推理脚本了。
