Lagent是一个开源轻量级框架，用于构建基于大型语言模型的智能代理。它支持多种代理类型和大型语言模型，具有高效的推理引擎和极简易扩展性。通过Lagent，用户可以轻松实现与聊天、回答问题及执行复杂编程任务的智能助手。框架提供多种工具增强LLM，设计简单易用，适合开发者、研究人员及对AI感兴趣的普通人。Lagent使用简单，只需定义agent、action和llm三个部分，即可实现强大功能，为AI应用提供坚实基础。
欢迎了解 Lagent ，这个框架让你能够轻松地建立自己的大型语言模型agent。无论你是寻找一个能够与你聊天、回答问题，还是需要执行一些复杂编程任务的助手，Lagent 都能满足你的需求。而最棒的是，你只需写几行代码，就可以实现这一切！
无论你是一位开发者、研究人员，还是只是对人工智能和自然语言处理感兴趣的普通人，Lagent 都将为你打开一扇通向未知的大门。它的功能和灵活性使其适用于各种应用领域，让你可以自由发挥创造力，所以，如果你渴望探索这个令人兴奋的世界，不妨让我们一起踏上 Lagent 的奇妙之旅吧！
什么是Lagent?
Lagent 是一个开源的轻量级框架，专门用于构建基于大型语言模型的agent,下面就是Lagent的框架图。它不仅提供了一些典型的工具来增强 LLM，还非常简单易用。如果你对编程并不是很熟悉，也不用担心，因为 Lagent 的设计就是为了让每个人都能轻松上手。
Lagent有什么特点？
- 高效的推理引擎：Lagent 支持 [lmdeploy turbomind]，一个高效的推理引擎，让你的代理运行得更快、更流畅。
- 多种代理支持：无论是 [ReAct]、[AutoGPT] 还是 [ReWOO]，Lagent 都能支持，让你的代理变得更加多才多艺。
- 极简易扩展：只需大约 20 行代码，你就可以打造自己的代理。Lagent 还支持 Python 解释器、API 调用和谷歌搜索等工具，让你的代理更加全能。
- 支持多种 LLM：从 GPT-3.5/4 到 LLaMA 2 和 InternLM，Lagent 支持各种大型语言模型，让你的选择更加多样。
如何开始使用Lagent？
我使用的是在windows系统下的PyCharm IDE,并在 python 3.9 环境下进行构建，在 Lagent 的 [GitHub] 仓库中，你还可以找到详细的说明和示例，帮助你快速上手。具体步骤如下：
首先通过pip安装lagent
pip install lagent如果你想修改这部分的代码，也可以通过以下命令从源码编译 Lagent
git clone https://github.com/InternLM/lagent.git cd lagent pip install -e .运行一个 ReAct 智能体的网页样例
这里需要注意的是，由于在该示例中需要使用到Google Search服务，所以需要获取一个SERPER API KEY（通过 [Serper - The World’s Fastest and Cheapest Google Search API]
然后将key配置到环境变量当中去
$env:SERPER_API_KEY = "xxxxxxxxxxx"(此处为你获得的api key)然后可以运行样例
#可能先需要安装 streamlit 包#pip install streamlit streamlit run examples/react_web_demo.py运行成功后就可以看到如下界面啦！
在这个界面你可以进行模型选择，插件选择，文件上传等功能，之后可以在界面的输入框进行对话：
由于我们使用的是ReAct示例，这里体现了它多步骤推理的特点，每个步骤，都会显示它使用的插件，思考步骤和执行内容。
在Lagent的Github仓库的example文件夹下，还给出了其他的示例，如ReWoo,AutoGPT,感兴趣的小伙伴在构建完成后也可以进行尝试。
如何使用
Lagent的使用十分简单，主要是定义三个部分的内容，agent，action和llm，ReAct的例子非常清晰的展示了整个流程。
# 导入所需的模块和类from lagent.actions.action_executor import ActionExecutor # 用于执行操作的类from lagent.actions.python_interpreter import PythonInterpreter # 用于执行Python代码的类from lagent.agents.react import ReAct # 代理(agent)类，用于处理用户输入并生成回应from lagent.llms.openai import GPTAPI # 用于与GPT-3.5-turbo模型进行交互的类# 定义一个函数，用于获取用户输入，直到用户连续两次按下回车键definput_prompt(): print('\ndouble enter to end input >>> ', end='') sentinel = ''# 当看到这个字符串时结束输入return'\n'.join(iter(input, sentinel)) # 主程序defmain(): # 设置 OPEN_API_KEY 在环境变量中，或者直接通过 key='' 参数传递 model = GPTAPI(model_type='gpt-3.5-turbo') # 创建一个GPTAPI对象，指定模型类型为 'gpt-3.5-turbo' chatbot = ReAct( llm=model, action_executor=ActionExecutor(actions=[PythonInterpreter()]), # 创建一个ReAct代理对象，使用GPTAPI模型和一个执行操作的ActionExecutor对象 ) whileTrue: try: prompt = input_prompt() # 获取用户输入except UnicodeDecodeError: print('UnicodeDecodeError') continueif prompt == 'exit': # 如果用户输入 "exit"，则退出程序 exit(0) agent_return = chatbot.chat(prompt) # 让chatbot处理用户输入，并生成回应print(agent_return.response) # 打印chatbot生成的回应if __name__ == '__main__': main() # 如果脚本作为主程序运行，则执行main()函数agent定义要使用的代理，从给出的源码来看，我们有ReWoo,AutoGPT和ReAct可以选择
action定义可以执行的操作，需要通过定义所选agent里的ActionExecutor参数来实现，从给出的源码来看，具体可选择的action有InvalidAction,NoAction,FinishAction,GoogleSearch,LLMQA,
PythonInterpreter。ActionExecutor中的actions参数是一个列表，所以可以选择多个action添加
llm可以定义所选的大模型，同样需要通过定义所选agent里的llm参数实现，从给出的源码来看，具体可选的有HFTransformer,HFTransformerCasualLM,GPTAPI,TritonClient,TurboMind
在agent定义完毕后，通过模型的chat方法，输入定义好的prompt，即可完成整个流程。
总结
Lagent 是一个功能强大且使用简单的框架，非常适合任何对AI和大模型感兴趣的人。它的多功能性和易用性使其成为开发者和研究人员的理想选择。对于那些想深入了解和运用的小伙伴而言，他们可以根据开源发布的代码进行二次开发，从而实现更加强大的功能。这个框架为各种AI应用提供了坚实的基础，让人们能够轻松地探索和发展新的领域。我非常期待Lagent可以在各类应用中大放异彩。
最后
对于正在迷茫择业、想转行提升，或是刚入门的程序员、编程小白来说，有一个问题几乎人人都在问：未来10年，什么领域的职业发展潜力最大？
答案只有一个：人工智能（尤其是大模型方向）
当下，人工智能行业正处于爆发式增长期，其中大模型相关岗位更是供不应求，薪资待遇直接拉满——字节跳动作为AI领域的头部玩家，给硕士毕业的优质AI人才（含大模型相关方向）开出的月基础工资高达5万—6万元；即便是非“人才计划”的普通应聘者，月基础工资也能稳定在4万元左右。
再看阿里、腾讯两大互联网大厂，非“人才计划”的AI相关岗位应聘者，月基础工资也约有3万元，远超其他行业同资历岗位的薪资水平，对于程序员、小白来说，无疑是绝佳的转型和提升赛道。
如果你还不知道从何开始，我自己整理一套全网最全最细的大模型零基础教程，我也是一路自学走过来的，很清楚小白前期学习的痛楚，你要是没有方向还没有好的资源，根本学不到东西！
下面是我整理的大模型学习资源，希望能帮到你。
👇👇扫码免费领取全部内容👇👇
最后
1、大模型学习路线
2、从0到进阶大模型学习视频教程
从入门到进阶这里都有，跟着老师学习事半功倍。
3、 入门必看大模型学习书籍&文档.pdf（书面上的技术书籍确实太多了，这些是我精选出来的，还有很多不在图里）
4、AI大模型最新行业报告
2026最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。
5、面试试题/经验
【大厂 AI 岗位面经分享（107 道）】
【AI 大模型面试真题（102 道）】
【LLMs 面试真题（97 道）】
6、大模型项目实战&配套源码
适用人群
四阶段学习规划（共90天，可落地执行）
第一阶段（10天）：初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么？
- 大模型是怎样获得「智能」的？
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例：向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段（30天）：高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示（Embeddings）
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段（30天）：模型训练
恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。
到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2：手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段（20天）：商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。
硬件选型
带你了解全球大模型
使用国产大模型服务
搭建 OpenAI 代理
热身：基于阿里云 PAI 部署 Stable Diffusion
在本地计算机运行大模型
大模型的私有化部署
基于 vLLM 部署大模型
案例：如何优雅地在阿里云私有部署开源大模型
部署一套开源 LLM 项目
内容安全
互联网信息服务算法备案
…
👇👇扫码免费领取全部内容👇👇
3、这些资料真的有用吗？
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。
这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
